[菜單] 110K AI,LLM計算機

作者: Lastwaltz (終焉華爾滋)   2024-01-09 13:55:39
已買/未買/已付訂金(元):未買
預算/用途:LLM(AI語言模型)計算+玩遊戲(2K 144hz)
CPU (中央處理器):Ryzen7 7800X3D
MB (主機板):技嘉 X670 AORUS ELITE AX
RAM (記憶體):威剛 ADATA XPG LANCER DDR5-6000 64G(32G*2) ($5999,金士頓
缺貨)
VGA (顯示卡):技嘉 RTX 4090 WINDFORCE V2 24G ($61090)
+ EVGA GeForce RTX 3080 FTW3 ULTRA GAMING 10G (原有)
Cooler (散熱器):利民 FC140 (原有)
SSD (固態硬碟):美光 Crucial MX500 1TB (原有)
HDD (硬碟):Toshiba 4TB , Toshiba 2TB (原有)
PSU (電源供應器):EVGA SuperNOVA 1000 G6, 80 Plus Gold 1000W (原有)
+ 振華 LEADEX VII XG 850W (for 4090) ($4590)
CHASSIS (機殼):追風者 Enthoo Pro II 伺服器版本(金屬側板) ($4890)
MONITOR (螢幕):
Mouse/KB (鼠鍵):
OS (作業系統):
其它 (自填):利民 TL-C12C 風扇*15 ($64*15,京東)
總價 (未稅/含稅):
LLM運算需求:
主板: 2x PCIe 4.0 支援 雙顯卡 x8/x8 Bifurcation
B650 裡面唯一支援x8/x8 只有華碩proart 看討論區說沒有該功能只影響training就算了
VRAM: 24G~48G 越多越好(2.4bpw exl2 ~ 4.65bpw exl2)
記憶體: reddit看到有人說有差 有人說沒有 所以乾脆直上吧
畢竟新板子有x8/x8基本都有DDR5
升級主要是為了4090 換掉主板/記憶體/顯卡/機殼 剩下都用現成的
之後可能會把3080 換張 3090 24G + 水冷
散熱/供耗: 3090只需要壓到280W LLM就有91.5%速度,加上LLM是交替輪用兩張卡 應該
是不會變烤箱(吧)

Links booklink

Contact Us: admin [ a t ] ucptt.com