採用L3快取破1GB的AMD第四代EPYC，微軟新一代HPC運算服務正式上線
響應AMD推出代號為Genoa-X的伺服器處理器，微軟兩款最新高效能運算服務也宣告正式上路
文/李宗翰 | 2023-08-09發表
從去年底到今年中，兩大伺服器處理器廠商陸續發表多款第四代產品，以AMD為例，2022年11月發表第四代EPYC 9004系列（代號Genoa），預告2023年上半將推出代號為Bergamo、Genoa-X的處理器，對應雲端原生與科技運算等兩大市場，下半則是代號為Siena的處理器，對應智慧型邊緣運算與電信領域的需求，到了今年6月中舉行的Data Center and AI Technology Premiere大會，他們宣布推出最多可提供128顆Zen 4c核心的EPYC 97X4系列，以及L3快取容量最大超過1 GB（3D V-Cache技術）、最多可提供96顆Zen 4核心的EPYC
9000X系列，並在美國西部區域的資料中心開放用戶預覽。
而在率先採用這批新進處理器的廠商案例，微軟Azure在去年底AMD第四代EPYC發表會，預告新一代高效能運算（HPC）執行個體服務HBv4系列、HX系列將導入Genoa-X，等到今年6月AMD正式發表EPYC
9000X系列處理器之際，微軟宣布這兩個系列服務正式上線，公開更多細部規格，初期先開放美國東部區域使用（目前美國東部區域可用HBv4系列，美國東部2區域可用HX系列），之後將開放韓國中部（目前已開放HBv4系列）、美國中南部（目前已開放HBv4系列）、瑞士中部、東南亞等區域。若參照Azure網站公開的售價資訊，我們看到在美國東部、美國東部2、美國中南部、美國西部3、瑞士中部、西歐、韓國中部等區域，均可查到HBv4系列與HX系列的價格（美國中南部未列HX系列價格）。
根據去年11月微軟在Azure部落格揭露的資訊來看，這兩個即將推出的高效能運算服務，依據處理器核心數量的多寡，均區分為5個組態，提供24顆、48顆、96顆、144顆、176顆實體處理器核心，搭配DDR5記憶體、頻寬為800GB/s（HBv4系列均配置688 GB記憶體，HX系列系列均配置1,408GB記憶體），網路環境為400Gb InfiniBand（採用Nvidia Quantum-2交換器與ConnectX-7網路介面卡），以及80GbE（Azure加速網路）。
今年6月HBv4系列與HX系列正式登場之後，微軟揭露這些執行個體服務採用2顆AMD EPYC 9V33X處理器，每顆CPU內建96顆Zen4實體核心（停用SMT同時多執行緒功能），以及1,152 MB容量的L3快取，而在運作頻率上，9V33X的基礎時脈為2.4 GHz，尖峰時脈為3.7 GHz。
相較之下，AMD在6月中發表的3款Genoa-X處理器，規格與Azure這兩款服務所用的CPU大同小異。以處理器內建核心最多的9684X為例，實體核心一樣是96顆、L3快取為1,152 MB，時脈最高為3.7 GHz，但基礎時脈為2.55 GHz，也能啟用SMT而提供192個執行緒。值得注意的是，由於HBv4系列與HX系列每臺虛擬機器均是建置在搭配2顆處理器的伺服器上，因此，整臺虛擬機器可存取2.3 GB的L3快取。
而在效能呈現上，微軟去年底公布的測試結果，以使用4年之久的高效能運算伺服器作為基準，觀察在9種軟體應用之下，HBv3系列（採用120核心的AMD EPYC 7V73X）、HBv4系列與HX系列（採用176核心的AMD EPYC “Genoa”）的提升幅度，前者可達到1.6倍至3.3倍，而HBv4系列與HX系列則是增長至4至5倍，甚至來到8.5倍。
趁著AMD今年6月發表新款處理器，微軟針對正式上線的兩款HPC運算服務也公布新的效能測試結果，他們這次以HBv3系列比較基準進行8種應用的測試，而採用AMD EPYC 9V33X處理器的HBv4系列與HX系列，效能增長幅度達到1.6倍到5.7倍，
值得注意的是，微軟這次針對記憶體容量配置比HBv4系列多一倍的HX系列，進行效能測試比較，在執行MSC Nastran車輛結構分析模擬中，HX系列的效能可達到HBv3系列的3倍，若以4年前推出、至今仍廣泛使用的HC系列為基準，新上市的HX系列可提供9.2倍的效能。
產品資訊
微軟Azure HBv4系列
●原廠：微軟
●建議售價：美國西部3，隨用隨付方案每月為5,256美元
●執行個體服務選擇：Standard_HB176-24rs_v4、Standard_HB176-48rs_v4、Standard_HB176-96rs_v4、Standard_HB176-144rs_v4、Standard_HB176rs_v4
●搭配的處理器平臺：2顆AMD EPYC 9V33X，96核心，基礎時脈為2.4 GHz、尖峰時脈為3.7 GHz
●記憶體容量：656 GiB
●本機硬碟容量：2臺1.8 TB NVMe SSD
●網路：400 Gb InfiniBand（ConnectX-7）、40 GbE（Azure第二代SmartNIC）
【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】
https://www.ithome.com.tw/review/158134
1GB的L3快取是什麼樣的概念？
Intel在這市場快要沒呼吸了吧？