NV的市場領先地位不是單單只有CUDA這麼單純,你要知道CUDA不是只會算AI,各種高階的模
擬運算才是最可怕的護城河。
NV在技術上還有兩大護城河
NVLink/Infiniband:高效的集群計算
Omniverse:虛擬與現實的融合
目前的LLM都有越來越大的趨勢,絕對不是單一個GPU能跑得動的,所以高效的集群計算才是
關鍵,你單一個GPU做多大算力不再是重點,而是你要有辦法高效的串成一整個集群,而且N
V大概是唯一一家有辦法自己“驗證集群運算缺陷”的公司,因為他自己也有AI團隊在搞大
模型,所以NVlink跟Infiniband才會如此重要,要知道UAlink才剛起草聯盟,第一版出來可
能要2026了
Omniverse 這可能是大家比較忽略的一塊,這塊是AI從虛擬走向實體的關鍵技術,以自駕車
為例,現在tesla就是以海量數據導致FSD能有領先地位,但最終,你不可能只用實際車輛採
集數據,尤其是各種負面範例,撞車或撞到人,這絕對是非常稀缺的資料,但假設你能用Om
niverse來模擬整個車禍發生的各種情況,才有機會解決這種資料稀缺問題。更進一步則是
機器人的虛擬環境訓練,你不可能把機器人丟到家庭裡,不小小壓到小孩才開始調整行為策
略,各種人機協作互動的行為更是關鍵。
這兩大塊甚至比單純的CUDA更壟斷,因為GPU集群的實驗你自己沒下去玩過,根本就不知道
會發生什麼事,臨時硬體壞了該如何備份復原更換,電力系統要如何整合,這都不是小公司
玩的起的
補上萬卡集群的訓練說明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx
Omniverse 更是未來實體AI的關鍵,新的機器人一定是丟到虛擬環境練到好才出來,這也是
為啥老黃一直還是延續GPU而非特化成NPU,因為它需要3D建模與物理引擎,光追系統做虛擬
環境驗證,拔掉這些core可能可以省成本,但就無法用途轉移了
※ 引述 《breathair (拆了?簡單了)》 之銘言:
: 標題: Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便
: 時間: Wed Aug 28 12:28:18 2024
:
: 小弟請教各位大佬
:
: NV最大的優勢,應該是CUDA
: CUDA讓各AI專家可以編程NV GPU
: 讓GPU跑你想跑的東西,而不侷限在圖形運算
:
: AMD正是落後在這裡
: 當大家都用CUDA編程AI晶片
: AMD不能用CUDA等於不能相容
: 於是AI晶片就被NV佔據極大優勢
:
: 以上不知對不對
:
: 如果對
: 小弟的疑問是
: 如果NV護城河是CUDA這種編程語言
: 而AI最大優勢又是編程
:
: 難道以後不會因為隨著AI的強大
: 各路AI晶片可以把CUDA編程
: 轉譯成自家AI晶片可以接受的語言
:
: 這樣護城河還會在嗎?
: