1. PTT
  2. Marginalman

[閒聊] 本地跑 LLM

作者: surimodo (好吃棉花糖)   2024-12-11 01:31:25
看了一下
70B 的大模型要 24G 顯示卡內存等級
差不多就是 4090
要價都是 6w 以上
那感覺還不如每月訂閱
還能隨時取消
@@
作者: Firstshadow (IamCatづミ'_'ミづ)   2024-12-11 01:34:00
訂閱是訂閱api還是GUI
作者: surimodo (好吃棉花糖)   2024-12-11 01:36:00
像是 openai 那種訂閱的本地跑最高等級 LLM 太貴了 @@而且很耗 GPU 壽命
繼續閱讀
Re: [瓦特] 2024 齁粉recapLizeHelestaRe: [閒聊] Lawson要進軍台灣了欸Meteor077[閒聊] 原來北韓領導人是民主選舉制耶VedanRe: [閒聊]「中國女籃第一美」轉型當網紅？Meteor077Re: 弓箭傳說2好玩嗎VedanRe: 圖奇年度回顧NTUtriangledog call whatZakuAmazing[咪哭] 25時觀看數鬥蟲jimmyisgay[閒聊] 跑2 A2引擎uniNigiri你們有用過第三方商城下載東西過嗎se2422

Links booklink

Contact Us: admin [ a t ] ucptt.com