[情報] NVDA的H100怎麼突然補上GB遞延的缺口

作者: H2 (oh!my志玲)   2024-12-07 23:06:29
標題:
來源:
All-in Pod e206集
網址:
https://youtu.be/K2xfW3hgxb4?si=vso9TsDW09rVlaDK&t=2947
內文:
故事是這樣的
All-in Pod裡頭提到,這個故事是這樣的。
在Blackwell 被推遲的過去六個月裡,所有
等待Blackwell 並認為100K Hoppers這種規
模的GPU不可能搞成同一超級運算叢集的人
突然蜂擁而出,購買了許多Hoppers 來嘗試
自己實現這一目標。
因為他們發現Elon 和xAI已經解決了連接100K
的 H100 GPU 的問題進入超級運算叢集。
這基本上幫助 NVIDIA 解決了 Blackwell 延
遲可能造成的任何潛在損害。
這是為什麼Jensen在跟Brad Gersner的訪談
這麼推崇Elon跟xAI的速度
作者: herculus6502 (金麟豈是池中物)   2024-12-07 23:17:00
西屏,你覺得呢?
作者: hellophoenix (Rainey)   2024-12-07 23:21:00
反正現在發現能串更多h100來堆算力 就不急著一定要用新的blackwell了
作者: MacBookAir12 (New Mac Water)   2024-12-07 23:23:00
散熱需求沒那麼急 然後BBU不需要了...XD
作者: junior020486 (軟蛋頭)   2024-12-07 23:23:00
鬼故事,沒人屌了啦
作者: JingPingKing (金平王)   2024-12-07 23:49:00
特400早晚
作者: hellophoenix (Rainey)   2024-12-08 00:01:00
仔細想了想,以後也許單卡能力也許不會是重點,反而能串超級多張的集群運算能力才是。
作者: NowQmmmmmmmm (滷蛇之王)   2024-12-08 00:07:00
你也可以指出錯誤跟他作不好的地方來討論咩0.0沒人說不行吧

Links booklink

Contact Us: admin [ a t ] ucptt.com