能自己客製化 AI chip的公司也沒幾家
現在有走向hybrid cloud的趨勢, data可能放在cloud provider,
但training會自建data center來做。
租cloud provider的算力來搞training其實很貴
石油 金融等行業有在這麼搞了
還是會跟 NV (或AMD 或 intel 或其他AI chip startup) 買晶片來 training
※ 引述《stiga (stiga)》之銘言：
: → Brian23: 車子需要管功秏嗎? 又不是手機 08/21 10:18
: → Brian23: 自駕在使用也是在發動時，又不是待機 08/21 10:19
: 推 Reenter: 車子電池大還是要省啊，開個自駕里程只剩80%能看嗎？ 08/21 11:58
: 推 outzumin: GPU 本來就只在learning有優勢 08/21 13:39
: → outzumin: 其他都是I家天下 08/21 13:40
: 問車子需不需要管功耗是一個非常有趣的事情
: 講個我朋友的 "看法"
: 我這位朋友現在在SD一家做自駕卡車的公司做自駕
: 他直接跟我說：
: 做自駕，NV還很長一條路要走
: 他覺得最後能夠成功做自駕的大概就是Tesla跟大型車了
: Brian跟Reenter兩個人講的其實半對半錯 兩兩互補
: 這邊"功耗"的意義有兩個層面
: 第一個是 你單位時間用掉多少電？
: 第二個是 你的電池有多少電？
: 現在Brian的問題其實Reenter回答的不太算對
: 因為直接拿GPU跑自駕最大的問題是是什麼？不是電池不夠大
: 最大的問題是一片GPU以P100為例，大概是250W左右
: 你可以看看有多少汽油車能夠推得動幾片250W串一起的功率
: 這也是為什麼他會說他覺得要用GPU的話 自駕最後會是Tesla的天下
: 不是Tesla技術特別牛逼 是這一塊就是只有電動車跟大車推得動
: 所以現在很多自駕不是走CV-base了 但是不走CV-base又會出現問題
: Lidar跟Radar都爆炸貴 他說他之前在裝prototype的時候 搬那個Lidar膽戰心驚的
: 不小心掉下去可能一年工資就沒了XD 所以這東西目前也不太可能真的拿來給大眾用
: 我自己是做ML Infra的 所以對自駕這塊相對不熟
: 但是Nvidia我覺得最終還是會有一些瓶頸在，他在training的確是很猛
: 但是我覺得他本質問題還是他是一個General Purpose的東西
: 當所有大公司有自己的規模之後 肯定還是會走向自己客製化
: 目前我們公司內部training看起來還是無解得用Nvidia
: 但是inference這塊基本上Nvidia不是很好的solution了
: 那為了跟股版有點連結
: 還是說一下 我覺得Nvidia短中期可以買XD
: 我們公司年初跟Nvidia定了4000片V100，到現在拿到不到1000片
: 八卦好像是 當初某公司在P100跟V100之間抉擇的時候 決定賭一波搞了個選擇權
: 導致V100現在多數都先被某公司吃下來了
: GPU這塊目前感覺還是偏搶手