[閒聊] Jim Keller 曝設計關鍵在捨棄 HBM

作者: DoraGian (飲冰)   2024-07-16 08:43:44
https://technews.tw/2024/07/15/us-chip-designer-tenstorrent-jim-keller-vs-nvidia
/
在典型的人工智慧晶片組中,GPU 每次執行進程時向記憶體發送數據,這需要 HBM 高速數
據傳輸能力。然而,Tenstorrent 專門設計自己的晶片,以大幅減少這種傳輸。Keller 指
出,有了這種新方法,其公司晶片設計可在 AI 開發的某些領域取代 GPU 和 HBM。
此外,Tenstorrent 還在設計產品以盡可能實現成本效益,目前許多公司也在尋求更好的記
憶體解決方案,但 Keller 也坦承,要顛覆龐大的現有 HBM 產業,還需要數年時間。他也
預期,與其只由一間公司取代 NVIDIA,不如湧現更多新公司,填補美國公司未涉足的各種
人工智慧市場。
Tentorrent 晶片主要特點是 100 多個核心中,每個核心都有小型 CPU,即「大腦中的微型
大腦」。通常情況下,單個晶片核心只有一個小型電腦和記憶體,只負責解決一個給定的任
務,但 Tenstorrent 的核心能獨立「思考」,決定先處理哪些數據,或者放棄不必要的任
務,從而提高整體效率。
這樣的話core的控制單元就變得複雜
核心數拉不上去
這樣取捨不知道會不會更好
作者: tsairay (火の紅寶石)   2024-07-16 11:00:00
未來是誰掌握晶片產能誰就掌握天下吧,新創公司沒錢或排不到產能就沒用了,蘋果就算沒必要還是砸錢包下GG的最新產能就是這樣,多付的錢就是阻止競爭對手用的openAI想自己搞AI運算晶片結果沒錢下單

Links booklink

Contact Us: admin [ a t ] ucptt.com