ARM

Arm 推出自家處理器晶片 Arm AGI CPU 專為 AI 資料中心設計

Arm  宣布其運算平台發展邁入下一個新階段,首度將版圖拓展至量產晶片產品。此一里程碑以 Arm AGI CPU 的推出為開端,該產品是 Arm 針對 AI 資料中心而設計的處理器,專為因應日益增加的代理式 AI(agentic AI)工作負載。

三十多年來,產業持續在 Arm 運算平台上推動創新,為數千億裝置提供具備可擴展性與高能源效率的運算能力。隨著 AI 重塑全球運算基礎架構,生態系夥伴也持續尋求得以大規模部署 Arm 技術的解決方案。為此,Arm 將其平台策略從 IP 與運算子系統( Compute Subsystems, CSS),進一步擴展至由 Arm 設計的晶片產品,為合作夥伴在 Arm 運算技術上提供最完整的建構選擇,並加速 AI 生態系的創新發展。

 

代理式 AI 正在重塑 AI 基礎架構,並帶動對 CPU 更強勁的需求

AI 代理的興起正在推動全球運算邁入重要轉折點。隨著 AI 從模型訓練轉向部署可持續運作、具備推論、規劃與執行能力的各項代理,整體 AI 系統所產生的 token 數量正在快速成長,同時對 CPU 的數量需求也大幅增加,以便進行推論、協調及資料傳輸等工作。

隨著企業大規模擴展由代理式 AI 驅動的應用,資料中心每吉瓦(GW)所需的 CPU 容量,預期將超過目前的四倍,這也代表必須在相同的功耗限制下提供大幅提升的運算能力。因此,市場對專為 AI 規模基礎架構打造的新類型 CPU 需求日益增加——這類處理器需要具備保持高 token 數吞吐量的優異效能、能在實際電力限制下運作的高效率,同時搭載更為精簡的架構設計,免去 x86 處理器的開銷與複雜性。

 

將 Arm 平台拓展至量產晶片產品

為協助合作夥伴在此新環境中加速推進,Arm AGI CPU 的推出預計將成為代理式資料中心的基礎。此次平台版圖拓展至晶片產品,也為整個生態系在建構與部署 Arm 架構基礎設施時提供更高的彈性——無論是採用 Arm IP 授權、導入 Arm 運算子系統,或部署由 Arm 設計的晶片。

Arm AGI CPU 具備以下特點:

  • 效能:每顆 CPU 可搭載多達 136 個 Arm Neoverse V3 核心,在每核心、SoC、刀鋒伺服器及機櫃層級皆提供領先業界的效能*,並具備每核心 6GB/s 記憶體頻寬及低於 100 奈秒的延遲。
  • 擴展性:300 瓦熱設計功耗(TDP),並為每個程式執行緒配置專屬核心,可在持續高負載下提供可預測的效能,同時避免效能降頻(throttling)與閒置執行緒問題。
  • 效率:支援高密度 1U 伺服器機箱的氣冷部署,每個機櫃最高可達 8,160 核心;在液冷系統下,單一機櫃可提供超過 45,000 個核心。

這些能力可轉化為更高的工作負載密度、更好的加速器利用率,以及在既有功耗限制下提供更多可用的運算資源——隨著 AI 基礎架構持續擴展,這些優勢顯得格外關鍵。相較於 x86 CPU,Arm AGI CPU 在每機櫃可提供超過 2 倍的效能,並可在每吉瓦的 AI 資料中心容量上,節省高達 100 億美元的資本支出(CAPEX)。

 

Arm AGI CPU 獲得廣大生態系的支持

做為 Arm AGI CPU 的早期合作夥伴與共同開發者,Meta 採用該 CPU 以最佳化其應用程式的基礎架構,並與其自研晶片 MTIA(Meta Training and Inference Accelerator)協同運作,提升大規模 AI 系統的整體調度效率。雙方也承諾將在 Arm AGI CPU 的多代產品藍圖上持續深化合作。

除 Meta 外,Arm 亦宣布與多家合作夥伴拓展進一步的商業合作,包括 Cerebras、Cloudflare、F5、OpenAI、Positron、Rebellions、SAP 與 SK Telecom。這些客戶將在多項關鍵代理式 CPU 應用場景中部署 Arm AGI CPU,包括加速器管理、控制平面處理,以及雲端與企業環境中的應用程式介面(API)、任務與應用程式託管。

為加速產品導入進程,Arm 正與多家主要 OEM 與 ODM 合作,包括永擎電子(ASRock Rack)、聯想(Lenovo)、廣達電腦(Quanta Computer)及美超微電腦(Supermicro)。目前已有早期系統可供使用,並預計於今年下半年擴大供應。

橫跨超大規模運算(hyperscale)、雲端、晶片、記憶體、網路、軟體、系統設計與製造等領域,已有超過 50 家領先企業支持 Arm 拓展其運算平台至晶片產品,包括亞馬遜網路服務(AWS)、博通(Broadcom)、Google、邁威爾(Marvell)、美光科技(Micron)、微軟(Microsoft)、輝達(NVIDIA)、三星(Samsung)、海力士(SK hynix) 與台積公司(TSMC)等合作夥伴。

 

Arm 運算平台的新時代

數十年來,產業透過領先業界的 Arm IP ,以及近年推出兼具高效能與高能源效率的 Arm 運算子系統,持續在 Arm 運算平台上推動創新演進。隨著 Arm AGI CPU 的推出,並進一步拓展產品版圖至量產晶片產品,象徵產業的演進將邁入下一個階段——Arm 正式跨足資料中心晶片領域,並將其高能源效率的架構導入大規模 AI 基礎設施之中。

Previous post

Intel 聯手台灣合作夥伴展示最新 Core Ultra 系列 3 與 200S Plus 處理器全方位布局 AI PC 與邊緣運算

Next post

《寶可夢 冠軍》4月8日正式推出 打造專屬對戰競技平台

The Author

sinchen

sinchen

我是 Sinchen。