AMD 為 Microsoft Azure 打造具有 HBM3 記憶體的客製化 EPYC CPU – 具有 88 個 Zen 4 核心
Tom′s Hardware 報導,微軟發布了最新的高效能運算 (HPC) Azure 虛擬機,該虛擬機由定制的 AMD CPU 提供支持,該 CPU 可能為曾經的 MI300C。
HBv 系列 Azure VM 專注於提供大量記憶體頻寬,這是 HPC 的一個重要規格;微軟稱其為「最大的 HPC 瓶頸」。在此之前,微軟曾使用 Milan-X 和 Genoa-X 伺服器 CPU 以及 AMD 3D V-Cache 來提供額外的頻寬,但對於最新的 HBv5 VM,微軟顯然想要更高效能的東西。
用於 HBv5 VM 的客製化 AMD CPU 利用 HBM3,通常是最新資料中心級 GPU(例如 AMD 的 MI300X)的首選記憶體。單一虛擬機器中的四個晶片的頻寬為 6.9TB/s,虛擬機器的速度幾乎比 Microsoft 在 HBv4 虛擬機器中提供的 Genoa-X CPU 快 9 倍,比 HBv3 中的 Milan-X 晶片快近 20 倍虛擬機。
與 CPU 搭配使用時,HBM3 可以發揮與 3D V-Cache 類似的作用。儘管如此,它並沒有擴展 L3 快取池,而是有效地添加了一個巨大的 L4 緩存,具有更大的頻寬和可能更差的延遲。但是,後者在某些類型的工作負載中並不那麼重要。
每個 HBv5 VM 均配備四個客製化 AMD CPU,除了所有功能外,單一 HBv5 VM 還提供 450GB HBM3、352 個 Zen 4 核心,時脈高達 4GHz,並且是常規 Epyc 上可用的普通 Infinity Fabric 頻寬的兩倍CPU。然而,SMT(超線程)已被禁用。這些虛擬機器還具有 800Gb/s 的 Nvidia Quantum-2 InfiniBand 用於網路交換。
如果四個 CPU 有 352 個核心,則每個 CPU 都有 88 個核心,但可能並非處理器上的每個核心都會暴露給虛擬機。每個 Zen 4 CCD 有 8 或 16 個核心,取決於它是 Zen 4 還是 Zen 4c;客製化CPU要麼使用11個Zen 4 CCD,要麼使用 6 個 Zen 4c CCD,其中一個 CCD 上的八個核心被禁用。 CPU 更有可能具有 96 個功能齊全的核心,其中 8 個保留用於操作 VM,可能充當編排或管理程式角色。
這款「客製化」AMD CPU 可能也不是那麼客製化,因為它聽起來有點像去年傳聞的 MI300C 晶片。該 CPU 預計本質上是 MI300A APU,但專門配備 Zen 4 CCD,而不是 CDNA 3 顯示卡,從而支援具有 HBM3 的 96 核 CPU。 MI300A 的 CPU 核心時脈頻率高達 3.7GHz,與 HBv5 所使用的CPU相差不遠,這表示客製化的 Azure 處理器和 MI300C 可能是同一個。