原文標題:
美光推第二代HBM3記憶體 下單台積電
原文連結:
https://ctee.com.tw/news/global/909621.html
發布時間:
2023.07.27
記者署名:
工商時報 陳穎芃
原文內容:
在各家業者搶攻AI市場之際,美光也不落人後,近日推出第二代HBM3 DRAM記憶體,不僅記憶體容量更大且運算速度更快,可望滿足大規模語言模型(LLM)的運算需求。
業界人士透露,因應人工智慧及生成式AI趨勢,美光將在台投入HBM3 Gen2先進封裝研發及製造,已積極與台積電密切合作,未來將在台加速量產並交貨給客戶NVIDIA。
美光表示第二代HBM3 DRAM記憶體的樣品已在近日出貨給少數客戶。研究機構TIRIAS Research估計若客戶端測試順利,內建美光第二代HBM3 DRAM記憶體的CPU及GPU最快將在今年底或明年初問世。
回顧2013年美光首度推出HBM記憶體至今已過10年,這段期間雲端市場快速起飛,不斷提高資料中心的運算需求。生成式AI問世以來,大規模語言模型的運算需求快速擴大,逐漸超越記憶體升級速度。
美光雖然落後其他同業1年左右才推出HBM3 DRAM記憶體,但這次可望靠第二代產品扳回一城。第二代HBM3 DRAM記憶體不僅容量擴大50%,性能也是上一代的2.5倍,運算速度也提升50%,有助縮短大規模語言模型的訓練時間。
美光上一代HBM3 DRAM記憶體已經廣泛應用在眾家晶片產品,包括超微、英特爾的CPU晶片,以及超微、英特爾、輝達的GPU晶片。超微針對AI市場最新推出的MI300X GPU晶片就是採用美光上一代HBM3 DRAM記憶體。
心得/評論:
MU在HBM3起跑點被甩掉幾百條街,昨天發佈了gen2產品並在官方新聞稿中強調了與TSMC的合作。是否真能如預期在CY23/E被採用量產,就看接下來韓廠會如何出招了。