Re: [閒聊] 做程式的請進 umi0912umi PTT批踢踢實業坊

作者: umi0912umi (UMI) 2024-02-05 20:37:27

所以有沒有AI大師
C++或RUST在這領域怎麼用的比屁眼少好多
這種吃效能的怎摸會是屁眼占多數
不過忘記llama還bert還誰的tokenizer是用rust
有人能內推我嗎
我最近會用transformer跟mistral惹
QQ

作者: Apache (阿帕契) 2024-02-05 20:38:00

因為Data flow其實不在CPUC++跟Rust建置時間長到你想哭

作者: PyTorch (屁眼火炬) 2024-02-05 20:40:00

C++有一個套件阿甚麼Net著

作者: umi0912umi (UMI) 2024-02-05 20:40:00

那2個沒辦法用到GPU喔?

作者: Apache (阿帕契) 2024-02-05 20:41:00

沒必要效能好是犧牲開發效率換來的遊戲的主流是把常見運算用C++包好上層用腳本調用

作者: umi0912umi (UMI) 2024-02-05 20:42:00

幹我是能大學讀10年喔 transformer出來我都快畢業惹

作者: Apache (阿帕契) 2024-02-05 20:42:00

雖然UE是用C++做腳本啦

作者: Rushia (みけねこ的鼻屎) 2024-02-05 20:42:00

PY可以import C效能有差ㄇ==

作者: Apache (阿帕契) 2024-02-05 20:45:00

懶學的底層也是用C++先處理掉cuda調用最後才給Py bind

作者: wu10200512 (廷廷) 2024-02-05 20:45:00

通常都是pymodel弄好在移植到c++

作者: PyTorch (屁眼火炬) 2024-02-05 20:56:00

cuda就是C++底層阿不可能用python寫的

繼續閱讀