作者:
huabandd (我是阿肥巴你頭)
2023-07-03 12:22:44https://youtu.be/UsfmqTb2NVY
YTer林亦常常講解一些蘋果生態的玩意
看他講M2 Ultra才知道到底晶片有多強大
感覺可以開始期待未來幾年的Macbook Air大幅提升了
作者:
maplefff (maplefff)
2023-07-03 12:38:00拜託一下現在LLM都是幾萬張H100在搞的沒有人會搞什麼單機跑AI這種項目了邊緣系統真的搞得起來得只有推理
你確定要PO這廝的片？在B站被罵翻 內容概念錯誤百出
作者:
LuckSK (幸運的SK)
2023-07-03 13:29:00越會畫虎爛的越多受眾
作者:
yytseng (yytseng)
2023-07-03 14:19:00低成本記憶體方案吧，畢竟這趨勢下去M3 ultra M4 ultra才是未來值得期待的。NV一張卡抵一台了至於有沒有用我覺得對大模型不夠但對一般小公司很好用了正常人不會把自己的know how放到雲端給別人的機器學習的
作者:
TuCH (謬客)
2023-07-03 15:08:00LLM能在本地端自己做推理也是很有價值很多隱私的資料或著沒有外網的環境
作者:
iKelly (((○)))
2023-07-03 15:58:00M系列的晶片問題在於記憶體最大上限只到192GB，超過的話蘋果沒有提供任何解決方案，就連最新推出的Mac pro都無解
作者:
woodman (武德曼)
2023-07-03 16:31:00未看先猜是不是拿影像編輯來吹噓？怎麼不探討M系列最弱「穩定性」及「周邊設備相容性」？
一樓是在搞笑嗎?H100一張3.6萬鎂,哪來幾萬張?OpenAI人家估算成本也不過用了3600張A100
作者:
cevs (cevs)
2023-07-03 20:13:00蘋果近幾年應該會推自己的顯示晶片 3d方面實在不行
作者:
iKelly (((○)))
2023-07-03 20:40:00目前M2 Ultra堆到頂就192GB，除非蘋果還有技術可以串連多顆M2 Ultra，或者開放支援一般的DDR記憶體，不然頂點就在那邊卡著
作者:
xoy (XerXes)
2023-07-03 21:02:00這影片就一直在誇一張192GB RAM的顯卡，不能說這沒有用處，但是一台只有192GB RAM的工作站問題更大
蘋果先解決ssd跟ram的價格吧，都快10年過去了ram跟ssd價格還在賣天價...配再快cpu也是白搭
他明明就在講個人電腦，有需要扯到工作站嗎？就是個能在自己的電腦載入超大模型，他講的優點沒啥毛病啊。顯卡需要幾張才能夠載入這麼大的模型？
作者:
xoy (XerXes)
2023-07-03 22:16:00高階個人電腦RAM早就不只是192GB，更不用說工作站以TB為單位很久了，蘋果的x86 Mac Pro幾年前就可以裝1.5TB RAM，現在Mac Pro或Studio就整個被M2 Ultra卡住，這影片就完全避開CPU的需求，只拿純GPU的用途，不能說沒用，只是用途有限
還有是市佔太低了，第三方支援真的跟windows還有一段差距
作者:
xoy (XerXes)
2023-07-03 22:44:00另一點是ARM Mac完全沒有GPU的擴充能力，就算是最新的Mac Pro也一樣。但是現在顯卡很明顯繪圖遊戲是一個用途，AI是一個用途，高階用戶起碼有得選
大家太嚴格了吧 這台才多少錢 部分應用侵蝕h100也是合理的吧 真心
作者:
iKelly (((○)))
2023-07-03 23:13:00搭載M2 Ultra的Mac studio我覺得沒什麼問題，但這次用上同晶片的Mac pro號稱有擴充能力，卻連記憶體和GPU都沒有更優雅的解決方案，擺明就是急就章推出的產品，身為資深果粉的我也看不下去
作者:
CGary (下雨天也挺浪漫的)
2023-07-03 23:59:00他剛好拿了個gpt這種 做推理已經不需要太高計算力又很需要大顯存的 別說啥, 叫他跑個controlnet 就知道了...m2比拿大顯存老顯卡(P40這類的)拼裝簡單點 但是如果要長期投入在深度學習的 暫時NV的對手連他的前一圈車尾燈都沒看到
作者:
xoy (XerXes)
2023-07-04 06:29:00M2 Ultra把RAM加滿的價格不管是Studio或Pro也不是一般人會花的錢，影片誇它的C/P值是建立在好幾個前提下，只靠GPU、GPU一定要一百多GB RAM但是需求又不能超過兩百、運算不允許分散給多張GPU等等，一定要先去設想一個單張或多張一般顯卡做不到的事，然後就C/P值好高
作者:
TuCH (謬客)
2023-07-04 08:09:00玩AI大模型的cp值很高沒有錯啊 不然要買一台幾百萬的DGX?
作者:
exojin (exojin)
2023-07-04 08:20:00Intel時期的蘋果才是強大，本身強兼容性也強，現在的M系列穩定性跟兼容性差到不行，蘋果可以吹噓M處理器的強大，但使用者不這麼認為喔。
作者:
ho83leo (LWHo)
2023-07-04 08:23:00身為碼農，自從WWDC 推出GPTK 我就更喜歡蘋果了…
作者:
xoy (XerXes)
2023-07-04 09:00:00DGX的規格哪裡是Mac Pro跟Studio可以比的，反過來說現在的Mac也組不出高階的AI運算平台
作者:
xoy (XerXes)
2023-07-04 09:15:00對啊，這些一線公司為什麼這麼笨不買M2 Ultra就好？要做本地AI又不是只有ARM Mac跟貴到天邊的DGX可以選，一直扯DGX有什麼意義？一般人學習AI也是一開始就排隊買DGX嗎？PC+顯卡都不存在了？
作者:
yytseng (yytseng)
2023-07-04 09:17:0027萬你組的到192GB VRAM?
作者:
xoy (XerXes)
2023-07-04 09:25:00前面我就說這C/P值是限定條件，如果我不需要一百以上或需要超過兩百的VRAM這就沒什麼吸引力，更何況這都還沒比蘋果跟NVIDIA的GPU算AI的實力，純粹只是當一張VRAM在一到兩百GB之間的特殊顯卡，還不讓人把多顯卡這現在PC簡單到不行的擴充拿來比
作者:
yytseng (yytseng)
2023-07-04 09:31:00八片以上4090連起來就不是特殊情境？難道你家還在挖礦？192GB以下蘋果的cp值就無敵啊。至於速度yt有一堆評測了，比3090快，4090還沒實際比較，把cuda改成mps就能跑，似乎軟體也沒什麼問題。就算你只要24GB以下的記憶體，算一下價格還是蘋果勝好嗎，一片4090六萬還要特殊電源跟冷卻
作者:
xoy (XerXes)
2023-07-04 10:12:00NV不是只有遊戲顯卡，真要堆大容量VRAM用繪圖卡數量可以變少但是的確很貴。M1 Ultra早就有128GB RAM可給GPU用了但是也沒看到影音繪圖AI等產業高階應用拋棄NV跑來蘋果，就算跟遊戲顯卡比遊戲比繪圖蘋果目前也沒贏面。這影片的比較基礎是把VRAM容量占比極大化跟AI顯卡比價格，前面也有網友提到了比的也不是很耗GPU運算能力的，也無視NV在AI領域的軟體支援度，找個有移植ARM Mac的就好
作者: deep236 (潛雲) 2023-07-04 10:49:00
Mac Pro沒辦法額外擴充記憶體真的很無言
作者:
yytseng (yytseng)
2023-07-04 12:33:00M1才是一代Apple ARM 而已，你要開源軟體轉多快過來啊?一年前ChatGPT有幾個人知道啊，這種就剛好要130GB記憶體
作者:
yytseng (yytseng)
2023-07-04 12:35:00對啊，open source 社群有在動了就是有用，我也裝來玩玩如果遇到記憶體瓶頸，我應該會買Mac Studio而不是搞4090之前問過報價組4090單顯卡就要15萬左右，又吵又熱NV A6000湊到192GB 某家組好報價107萬，這我玩票的買不起一直拿工作站來比，不知道是在講啥，開AI服務公司的嗎...
作者:
iincho (世界的盡頭)
2023-07-04 13:39:00這個就是土砲的野路子就剛好蘋果統一記憶體做這個合適算是窮人方案吧，當然和正規不能比但是噴的人好歹先看看價錢啊
作者:
xoy (XerXes)
2023-07-04 15:21:00就AI不只是GPT，而GPT看規模學生用一般顯卡就可以學了，也聽說有model大到沒有單張顯卡塞得下，也有人做CPU+GPU+SSD而不是只用GPU。玩票的自然不會花上百萬買來只是玩玩，一般人也不容易掏出十幾二十萬只為了跑GPT
作者:
CGary (下雨天也挺浪漫的)
2023-07-04 17:42:00其實我還蠻喜歡m系列的架構的 未來越來越成熟 他一體化gpu的優點的確是存在的 但是此時此刻 他還不成熟 但他對於大模型也真的有一定的用途 只是你是看到他一開始說吊打NV而心動跳進去 那一定會後悔就是了 他至少在這代 還離真的成熟很遠
作者:
woodman (武德曼)
2023-07-04 21:24:00這個價位標配1TSSD沒關係，蘋果本來就這種尿性，但都買到Mac pro我居然沒辦法自行升級SSD？又是該死的slicon把SSD跟CPU黏在ㄧ起。
作者:
tyf99 (呵呵)
2023-07-04 21:52:00Mac Pro 2023 應該能插 PCIe SSD，不然它大可直說不能用，就像顯卡那樣
作者:
concord (iPro)
2023-07-04 22:06:00可以裝 SSD ，不過要注意插槽共用頻寬的問題
作者:
exojin (exojin)
2023-07-04 22:36:002019 Mac pro有標配兩個M.2槽可以插SSD。2023年的Mac pro走pci插槽有可能也認不到SSD,畢竟顯卡、記憶體、SSD都跟CPU綁在一起了。
作者:
NoneWolf (Forty2)
2023-07-05 10:55:00這影片到處都有人在宣傳 感覺有鬼
作者: VictorZ (月下的貓) 2023-07-05 12:37:00
中國幹片還是少看
作者:
JaveXP (BEEF)
2023-07-05 15:34:00因為中國人買不了H100，當然只能吹M2
作者:
concord (iPro)
2023-07-05 16:45:002023 Mac Pro 可以裝 PCIe SSD ， Highpoint 的產品已經聲明可以用了，目前只是不清楚相容性是否會有特殊問題
作者:
Pelassy (青色櫻桃掛枝頭)
2023-07-08 17:00:00其實對於模型訓練來說，VRAM遠比算力重要，沒有batch size沒有收斂。
作者: jhjhs33504 ( ) 2023-07-12 14:05:00
推文連結好重要~蘋果的品質應該是確保滿載也不降速吧?