英特爾推出搭載P-core效能核心的Xeon 6處理器,更新AI加速器Gaudi 3
搭載P-core效能核心的Xeon 6處理器,最高擁有128個核心,504MB快取記憶體,鎖定
邊緣、資料中心到雲端的AI,以及HPC高效能運算需求。
文/蘇文彬 | 2024-09-25發表
英特爾在今年Computex電腦展發表Xeon 6處理器,由搭載效率核心(E-core)版本的
Xeon 6處理器先打頭陣,本周英特爾再補齊Xeon 6處理器產品線,推出搭載效能核心
(P-core)版本,提高核心數及記憶體頻寬,最高至128個核心。
Xeon 6為伺服器專用處理器,是英特爾首款採用Intel 3節點設計的產品,其中分為搭
載E-core效率核心版本(代號Sierra Forest),以及搭載P-core效能核心版本(代號
Granite Rapids)。今年6月,英特爾先推出E-core版Xeon 6處理器,鎖定超多核心需
求,最高擁有144個E-Core核心,主要鎖定高密度、高能源效率資料中心使用需求,適
用於雲原生、CDN、微服務架構等應用。
至於新推出的P-core版本Xeon 6處理器,鎖定密集型工作負載需求,AI及高效能運算
市場,不僅增加核心數,並且將AI加速功能嵌入到每個核心,記憶體頻寬也加倍。英
特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求,強調能在不需獨立加速
器之下,執行數十億參數的AI模型。
根據官網的訊息,Xeon 6900P系列搭載的P-core為超執行緒核心,針對AI、HPC、資料
等工作負載需求,採用矩陣引擎,最高擁有128個核心,最多504MB的快取記憶體;而
E-core版本的Xeon 6700E系列,使用單執行緒提高核心密度,並且省略矩陣引擎,單
處理器最高擁有144個核心,英特爾計畫今年底再推出更高核心數,將單插槽核心數推
升至288個核心。
除了P-core版Xeon 6的推出,英特爾也更新旗下的AI加速器Gaudi 3,強調為大規模生
成式AI需求設計的Gaudi 3,擁有64個張量處理器核心、8個矩陣乘法引擎,內建128GB
HBM2e記憶體,支援24個200Gb的網路埠,使新的Gaudi 3 提升20%的吞吐量,英特爾強
調和Nvidia的H100相比,在Llama 2 70B推論時,同樣成本下提供2倍的效能。
英特爾指出,Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。
目前英特爾已和合作夥伴聯手,針對生成式AI最佳化的方案,例如戴爾合作規畫設計
RAG方案。
來源:
https://www.ithome.com.tw/news/165180
心得:
好像真的有點強,所以這兩天INTC漲上去不是因為Lunar Lake解禁,而是因為6900P
發表喔?
實測其實有,在這個影片:
https://www.youtube.com/watch?v=-Pq_nFLL9n0
https://i.imgur.com/96Chmed.png
不過AMD很快也要發布新一代的EPYC,鹿死誰手還很難說。