Re: [閒聊] 本地跑 LLM

作者: surimodo (好吃棉花糖)   2024-12-11 12:56:50
※ 引述 《surimodo (搖滾少女!! 活力棉花糖!!)》 之銘言:
:  
: 看了一下
: 70B 的大模型要 24G 顯示卡內存等級
: 差不多就是 4090
: 要價都是 6w 以上
:  
: 那感覺還不如每月訂閱
: 還能隨時取消
:  
: @@
:  
RX7900XTX 對比 6w+
只要 3w 初頭
其實意外的蠻適合跑大模型?
看了好像有成功案例能跑
烙鐵們覺得

Links booklink

Contact Us: admin [ a t ] ucptt.com