※ 引述《bradpete (台籃忠實粉絲)》之銘言:
: 想問說現在流行的AI伺服器
: 相信黃董那
: 跟小時候在玩楓之谷要進去的伺服器打怪
: 是一樣的東東嗎
隨便找一個 nv gpu 的伺服器給你看.
https://www.ithome.com.tw/review/158660
跟一般的伺服器不一樣的地方是裡面很多插槽是要用來插 nv 算卡.
基本都是一拖八(一台插八張),如果一台只插四張以下,機器成本太高不划算
你想想 facebook 的 ai 用兩萬四千張 h100 去堆,一拖八都要 3000 台.
(所以輝達財報為什麼好看,因為光一家 meta 就貢獻它兩萬四千張 h100 的業績...
台灣最近宣稱建好上線的優崴超算,它的土城機房裡才一千張 h100)
看它幾個風扇,幾個電源供應器,一個電源供應器多少瓦...
就算只有一台,八槽插滿,雙 cpu,放在你家開下去,搞不好你家都會跳電...