[菜單] 45K LLM模型微調伺服器升級

作者: jeff85898 ( )   2023-12-18 15:06:42
已買/未買/已付訂金(元):未買
預算/用途:原有的單張3090 24GB顯卡微調較大的語言模型已經不太夠用,需要再加一張30
90。家用平台PCIE頻寬似乎最多只支援到兩組PCIE 4.0 x8,希望直接升級到EPYC平台較不
會有頻寬瓶頸的問題,不過電源、機殼不太知道如何選擇,再麻煩大家推薦一下了,謝謝!
CPU (中央處理器):AMD EPYC 7302 $4387 (淘寶拆機)
MB (主機板):技嘉 MZ32-AR0 E-ATX $6983 (淘寶拆機)
RAM (記憶體):美光16G 2RX8 PC4-3200AA ECC REG *8 $6258 (淘寶拆機,QVL支援)
VGA (顯示卡):EVGA 3090 FTW3 沿用EVGA 3090 FTW3 $20000 (二手)
Cooler (散熱器):待填
SSD (固態硬碟):沿用
HDD (硬碟):無
PSU (電源供應器):待填
CHASSIS (機殼):待填
MONITOR (螢幕):沿用
Mouse/KB (鼠鍵):沿用
OS (作業系統):Ubuntu
其它 (自填):無
總價 (未稅/含稅):37628+待填

Links booklink

Contact Us: admin [ a t ] ucptt.com