蘋果技術文件揭密：AI模型以Google客製晶片訓練
MoneyDJ新聞 2024-07-30 08:23:15 記者 郭妍希 報導
蘋果(Apple Inc.)透露，兩款支持「Apple Intelligence」的AI模型，都是以Google設計
的客製化「張量處理單元」(TPU)在雲端進行訓練。
CNBC報導，蘋果週一(7月29日)釋出的技術文件顯示，蘋果基礎模型(Apple Foundation
Model, AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。
這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示，「該系統讓我們得
以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器)，以及規模更大的模型。」
蘋果文件中顯示，AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p
是最先進的TPU，首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個
切片訓練。
根據Google官網，旗下最先進TPU若提前三年預定，則每使用一小時的成本不到2美元。
Google是在2015年首次發布TPU、供內部作業使用，2017年才對外推出。TPU如今是最成熟
的AI客製化晶片之一。
不過，Google仍是輝達(Nvidia Corp.)首要客戶之一，不但同時運用輝達GPU及自家TPU訓
練AI系統，也在自家雲端平台販售使用輝達科技的服務。
蘋果先前曾說，AI推論任務有部分會在使用蘋果自家晶片的自有資料中心執行。
根據之前的媒體報導，參與蘋果伺服器專案「Project ACDC (即Apple Chips in Data
Center、蘋果資料中心晶片)」的人士強調，自家伺服器處理器的內部元件仍可捍衛用戶
隱私。蘋果處理器的「安全隔離區」(Secure Enclave)技術，可避免資料外洩。目前蘋果
計畫以自家的資料中心執行雲端功能，但最終仍會仰賴外部設施，如同iCloud等服務。
Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節
目訪問時透露，雖然業界也許對AI基礎建設投資過度，但假使進度落後，則未來10~15年
將無法在這個最重要的科技市場佔有一席之地。
https://pse.is/69xdjm