[問卦] 120b PT的LLM,你用過的感受和心得?

作者: ruthertw (小葉老大)   2024-02-23 22:55:14
Hugging Face的高手無極限,
推出了多種120b的LLM PT模型,
每個不但超大容量,
還可以只用CPU來跑,
而且號稱同時使用越多張高等級Nvidia顯卡,
跑起來速度越快,
不過每個120b PT模型的容量都不小,
網路速度不快,
可能要下載個兩到三天才能開始使用.
八卦板上臥虎藏龍,
鈣磷量!
這個目前還滿夯的LLM PT模型,
不知道你用過的感受和心得?
有卦嗎?
PS.
Hugging Face計畫接下來要推出
135b, 150b, 160b, 200b,等等的LLM PT模型,
各位買了幾張4090並連在一起了?
等等黨哭哭了嗎?

Links booklink

Contact Us: admin [ a t ] ucptt.com