這兩年就是AI雲端基建年 玩家就是NVDA/AMD 至於那個i皇歐 不好說QQ
如果用internet大時代來講 等基建完畢之後 就會有Software As Service (SaaS)
這類類似saleforce興起 目前看到的玩家就是Databrick 建議可以等這家上市ipo 買爆他
基建完之後 就會慢慢走向AI as Service (AIaaS) 軟體業
我有點懷疑老黃想吃AIaaS這塊應用市場 在AI界 刷演算法的除了G/MS/OpenAI/Meta等
Nvda其實也刷不少 甚至在HunggingFace 某些榜單 Nvda是榜首
甚至刷贏了OpenAI的Whisper模型架構 在OpenAI Sora發表前三個月
Nvda也在刷了一個自家架構的video diffusion
接者一個多月前Google也刷了一個自己的video diffusion (Lumiere) 甚至一年前
Adobe的firefly也是類似架構 這些大模型都是以後通往AIaaS的基石
老黃一直有在養頂級AI學者 光是他之前要求一個新人Researcher職缺要八篇頂會論文
就知道他要求有多高 像蘇媽就有點落後這環 完全還辦法多元化經營去養昂貴的RS
i皇也有在養一些ML學者 只是我覺得連高通在ML就業市場 現在都比i皇更有吸引力QQ
所以老黃有可能也會搞Turnkey 軟硬通包 送你大模型和硬體一起包
AI workbench就是這個企圖的線索 許多企業甚至領域 會有自己的私人壟斷data
你只要拿老黃包給你的大模型和算力平台 自己fine-tune私密data
一個新的應用 就可以瞬間搭完 舉個例子 如果你是某某醫院
手上有一堆問診資料data 然後你只要拿LLaMA2 用個16~64 H100 稍微fine-tune以下
以後醫生的問診就可以交給至些大模型去做 簡言之 這些基礎大模型 只要有特殊私密資料
就可以客製化成為一個專業產業的生產工具 而企業仍然可以保有自家獨特市場
只要他們擁有這些獨特資料 當老黃基建完後 再跑去吃AIaaS 都有可能
至少老黃在自駕就是這樣搞 包軟硬Turnkey 軟體和硬體都一起包給下游車廠
至於AI雲端基建期會有多長? 目前看到各國也開始在基建自家的算力平台
都深怕落後這波 歐洲明顯這波有想跟上 像法國諸如Mistral AI MoE, CroissantLLM
等等 以及其他阿聯酉Falcon 但也有許多國家還沒開始 像是台灣
以台灣為例 台灣現在基建算力平台是 國家高速實驗室的台灣衫2號 號稱最先進AI平台
但卻是2017年的V100 這玩意不能跑bf16 所以很多現代大模型是不太好在上面跑
這點真讓我感到QQ
所以我一直不懂AI泡沫化是啥鬼玩意....等全世界都滿手H200 MI300 基礎雲端到處都是
再來講泡沫化可能會比較好 不過那時間點 我懷疑老黃會去刷AI as Service這玩意
最後 AI三個核心點 資料 算力 算法 然後老黃有後面兩個 其他非AI大企業可以卡入得點
就是資料 搭配基礎模型(Foundation/Pretrained Model)和算力弄個FineTune
去開發落地場景 然後搭配low power inference特製算力平台(AVGO/NVDA/AMD) 這就是
之後的未來