原文標題：「地表最快」AI 晶片發布，哈佛輟學的本科生挑戰英偉達
原文連結：https://www.sohu.com/a/788693870_413981
發布時間：2024-06-26 20:01 來源: 愛範兒
記者署名：
原文內容：
在談到AI、大模型、算力等關鍵字時，如果要提及硬體產品，很多人應該會不假思索的說
出英偉達。
一位華爾街分析師曾如此評論到：
人工智慧領域正在進行一場戰爭，而英偉達是唯一的軍火商。
的確，在AI 時代下，英偉達的地位是獨特又難以撼動的。但現在，有一位勇者準備正式
挑戰這個局面。
2022 年，Gavin Uberti 和Chris Zhu 創立了Etched.ai。他們從一開始就獲得了包括
Ebay 前CEO Devin Wenig 在內的536 萬美元的種子輪投資。
在剛剛宣布融資1.2 億美元後，Etched 又發布了目前的最快的AI 晶片
此Sohu 非彼搜狐，它號稱可以在毫秒級別的時間裡處理數千個單字。每秒能處理超過50
萬個tokens，運行Llama 70B 模型。
什麼概念呢？這就相當於可以在兩秒鐘內寫完《聖經》，或是一年寫15 兆個tokens。
根據Etched 官網介紹，Sohu 在硬體層面上整合了Transformer 架構，是第一個專為
Transformer 模型設計的專用晶片（ASIC）。
正是這種專用性，為Sohu 帶來了效能的巨大提升。相較於英偉達H100，Sohu 的推理速度
相提升了8 至10 倍。
搭載八片Sohu 晶片的伺服器，可以取代整整160 個英偉達H100 GPU。
對於程式場景，Sohu 可以透過蒙特卡羅樹搜索，並行相應數百個結果，給出最優秀的答
案。
無論是語音助理還是智慧客服，Sohu 都能做到在幾毫秒內分析數千個單字。
並且Sohu 還支援多重推測解碼，可以以極快的速度即時生成新的內容。作為全球首款Transformer 專用積體電路（ASIC）晶片，每張Sohu 晶片只有一個核心，
使用了台積電4nm 製造工藝，並配有144GB HBM3E 高頻寬記憶體。
相較於英偉達的下一代Blackwell（B200）GPU，Sohu 的速度提高了一個量級，價格也會
更便宜。短短兩年時間，Etched 從零開始成長到現在這番模樣，實在是一個「奇蹟」。
Etched 的創辦人Gavin Uberti 和Chris Zhu 都是華裔，兩人也都有豐富的背景。Gavin Uberti 和Chris Zhu 都曾就讀哈佛大學，度過了一段大學部生活。後來出於一些
原因，他們選擇休學一年，並在OctoAI 找到了一份實習工作。
當時兩人的工作內容，主要是負責ApacheTVM 開源編譯器和微內核開發。但在實習時，他
們發現Arm 的指示集中的一些設計十分低效，使得他們的工作效率很差。
Gavin Uberti 說到：「這個問題無法解決，每次工作時我都得面對這個問題，這讓我和
Chris 覺得我們必須做得更好。」在思考如何解決這個問題時，他們突然發現可以利用
這個想法來設計一款AI 加速晶片。
於是兩人便選擇了從哈佛輟學，創辦了一家專注於LLM 的AI 晶片新創公司—— Etched。
在Gavin Uberti 看來，通用公版設計無法帶來獲得突破性的效能提升，所
以他們才研發Transformer 架構下的專用加速晶片。
Gavin Uberti 曾說：
必須在單一架構上下大力氣，讓晶片處理AI 任務，目標太大了，必須要針對更具體的任
務來設計晶片… 我們認為英偉達最終會這麼做。目前主流的AI 產品如ChatGPT、Claude、Gemini 和Sora 等，都是以Transformer 架構驅
動的。作為全球首款Transformer ASIC 晶片，再配上如此亮眼的成績，Etched 自然也
是吸引了一大波關注。
6 月25 日，Etched 宣布完成1.2 億美元的A 輪融資。這次融資由紐約創投機構Primary
Venture Partners 和Positive Sum Ventures 共同領投。
其天使投資人陣容也十分強大，包括創投家Peter Thiel、GitHub 執行長Thomas Dohmke
、自動駕駛公司Cruise 的共同創辦人Kyle Vogt， 以及Quora 的共同創辦人Charlie
Cheever，
在2022 年創立之初，Etched 就看中了Transformer 將會佔據主導地位的未來。 Gavin
Uberti 表示，「我們在人工智慧領域下最大的賭注。」
如果我們賭對了，Sohu 將改變世界。這就是我們敢於下注的原因。
心得/評論：
搞AI晶片都一定要有華人血統才純正? (誤)
繼上次說有整片晶圓就是一個晶片設計的公司後
另一個真正有實力挑戰NVIDIA的公司出現了
號稱比GB200還快八倍的晶片
不過要挑戰我大輝達，先能越過CUDA的護城河再說
https://i.imgur.com/NIYC5CT.png