AI和HPC崛起,先進封裝中的CoWoS將扮演關鍵性角色
https://bit.ly/3Oof5tw
隨著AI在裝置和產業中變得愈來愈普遍,蘋果、特斯拉、谷歌和Meta等參與者正在其產品
中添加大量AI功能,並且還需要為其產品組合提供整合的AI運算。CoWoS封裝技術似乎是
目前最好的解決方案。
也就是說,先進封裝提供了一個很好的槓桿,可以提高整體晶片性能,超越電晶體的傳統
幾何縮放,並在未來十年擴展摩爾定律。基本上,先進封裝分為前端3D(垂直的堆疊晶片
或晶圓),以及和後端 2.5D CoWoS(通過重佈線路層或中介層水平互連晶片)。
從這可以看出,先進封裝和晶圓製造技術的結合可以滿足市場對於運算能力、延遲和更高
頻寬的要求,特別是對於高性能運算(HPC)晶片。用於在數據中心訓練AI模型的AI加速
器需要最高的可用記憶體頻寬。不像早期記憶體受限的系統,當前的數據中心架構使用多
種技術來克服記憶體瓶頸。高頻寬記憶體(HBM)是廣泛實施的用於提高頻寬和記憶體容
量的解決方案之一。儘管傳統上AI一直是一項小眾技術,但它一直是GPU中HBM的重要驅動
力。
廣泛使用的整合技術之一是CoWoS,這是一種2.5D IC整合技術,通過將邏輯運算和HBM晶
片安裝在矽中介層上,然後直接放置在封裝基板上來整合邏輯運算和HBM晶片。TSV(矽穿
孔,Through-Silicon Via)/RDL(重佈線路層,redistribution layer)中介層適用於
極細間距、高 I/O、高性能和高密度半導體IC應用。
多年來,CoWoS 技術開發的重點是支持不斷增加的矽中介層尺寸,以支持整個封裝中的處
理器和HBM堆疊。如今,通過TCB(熱壓接合)方法採用C2凸塊的CoW是矽對矽倒裝晶片接
合最常用的組裝方法。CoW倒裝晶片採用一種稱為混合鍵合方法的無凸塊技術,目前正在
研發中。
如今台積電CoWoS的產能不足成為AI晶片出貨量的主要瓶頸。原因之一是來自設備供應商
和製造中介商的瓶頸。因此,台積電應該尋求合作,並可能外包給合作夥伴,這將有助於
穩定中短期產量。長遠來看,台積電決定投資900億新台幣(約28.5億美元)建立先進晶
片封裝工廠,預計於2027年中開始量產,並應該與設備製造商合作,優化TCB和混合貼合
等CoWoS加工技術。
從客戶端計算的角度來看,隨著產業開發能夠在智慧型手機上運行的縮小版AI模型,它可
能會嘗試 CoWoS。然而,目前在智慧型手機應用中實施CoWoS封裝並不具有成本效益,替
代封裝技術將是一個更好的選擇。