AMD

AMD的Threadripper Halo Station和Ryzen AI MAX PC在IFA展會上大放異彩,將強大的本地AI功能帶到每個人身邊

AMD向本地開發者和專業人士展示了其最強大的AI解決方案:Threadripper Halo Station和各種Ryzen AI MAX PC。

以下是AMD的Threadripper Halo Station與NVIDIA的DGX Station的對比,後者將全球最強大的AI功能融入桌上型產品中。

對快速本地人工智慧的需求正在以十倍的速度成長。隨著模型規模的擴大和智慧體在人工智慧用戶群中迅速普及,對強大硬體的需求也呈指數級增長。這種需求需要強大的硬體解決方案,而AMD正在推出其迄今為止最強大的人工智慧系統——Threadripper Halo Station。Threadripper Halo Station不僅僅是一台普通的Threadripper工作站PC;它將AMD專業級硬體的精華整合到一個機殼中,AMD稱之為終極個人AI工作站。

從規格來看,AMD Threadripper Halo Station採用了該公司速度最快的Threadripper CPU,例如擁有高達96個Zen5核心、總共192個執行緒、最高5.4GHz時脈頻率以及384MB超大快取的Threadripper PRO 9995WX。這將為最終用戶帶來強大的 CPU 效能。

對於智慧體人工智慧工作流程而言,快速的CPU至關重要,但GPU同樣不可或缺。為了滿足人工智慧推理的需求,該系統配備了兩塊AMD Instinct工作站GPU。這些是最新一代的MI350P GPU,每塊顯示卡擁有144GB的HBM3e記憶體。該系統最多可堆疊四塊這樣的顯示卡,從而獲得高達576GB的HBM3e顯示記憶體。這些GPU組合起來,可提供高達16TB/s的頻寬。

此外該系統本身能夠支援大容量的標準DDR5記憶體,採用RDIMM插槽。該系統最多可配備2TB的RDIMM,使總記憶體容量達到2.6TB,系統總記憶體頻寬達到16.4TB/s。 HBM提供高速頻寬,而RDIMM則提供大容量記憶體。整個系統採用全液冷設計,並裝在標準的 E-ATX 機殼內,機殼正面印有AM 標誌,整體設計風格與AMD在其Ryzen AI Halo 迷你電腦中採用的​​Halo系列一脈相承。其優勢在於無需花費大量資金訂閱雲端AI服務,即可在本地運行AI,從而大幅節省成本。

Threadripper Halo Station將能夠處理兆參數模型,並將於2027年發布。 AMD解決方案的優點在於其零件易於取得和複製,使用戶能夠根據自身需求進行混搭或更換內部零件。

當然我們也要提及該系統與競爭對手的比較。 AMD Threadripper Halo Station的直接競爭對手是NVIDIA DGX Station

比較Threadripper Halo Station和DGX Station,AMD方案在CPU方面有更多的核心和線程。 Zen5架構效率極高,IPC(每時脈週期指令數)也很出色,這意味著更強的單核心效能,而192個執行緒也保證了其多核心效能同樣迅捷。在記憶體方面,NVIDIA的GB300單晶片整合了更多的 HBM記憶體,但AMD使用四張加速卡將記憶體容量提升至576GB。

NVIDIA還允許使用者透過專用AIC擴展記憶體容量,例如其旗艦級的96GB RTX PRO 6000 Blackwell,可提供額外的192GB記憶體。這些GDDR7記憶體的頻寬低於AMD MI350P使用的HBM3e記憶體,而Instinct GPU 的記憶體容量也高出50%。 AMD的整體記憶體容量大於NVIDIA。

Threadripper Halo Station的定價目前尚未確定,但AMD一貫注重產品定價的競爭力。 DGX Station的售價接近10萬美元,因此我們可以預期AMD會將其定價與之持平或更低,儘管考慮到其解決方案的優勢顯而易見,他們完全可以不這樣做。

消息來源

Previous post

AMD AM5插槽平台新品 無X3D快取賣X3D的價格

Next post

Snapdragon 8 Elite Gen 6 Pro晶片組真機曝光,SoC尺寸巨大,這得益於全新的散熱片設計,旨在有效散熱DRAM

The Author

Lazarus

Lazarus