餵飽GPU的戰爭開打了 小米、蘋果、NVIDIA同步飆升記憶體頻寬

近日，小米玄戒O100 AI加速晶片與蘋果新款Mac mini、Mac Studio先後亮相，兩者皆將記憶體頻寬推向TB/s等級，此亦預示著「餵飽GPU」的資料傳輸大戰已經正式開打。

這並非偶然，此一趨勢與2025年初推出的NVIDIA RTX 5090不謀而合，無論是桌上型SoC、裝置端NPU亦或獨立GPU，皆開始將記憶體頻寬推向全新高度，希望解決AI大型語言模型運作時的資料搬移瓶頸。

記憶體頻寬就像是運算核心與資料之間的高速公路寬度，大型語言模型在自回歸生成階段，每產生一個Token，皆需要從記憶體中讀取龐大的模型權重。因此，即使運算單元本身再強，大量時間仍可能花在等待資料送達，此種「記憶體受限（Memory-Bound）」現象，已成為限制AI運算效能的重要瓶頸。

蘋果Mac產品行銷總監Laura Metz表示，M6系列大幅提升記憶體頻寬，因為於執行AI Agent時，模型必須常駐於統一記憶體中，以便隨時進行運算。

蘋果M6系列的三種配置，恰好呈現出AI硬體記憶體頻寬的三個層級：標準版為170GB/s、Pro版達307GB/s、頂級Ultra版本則突破至1.2TB/s。

小米玄戒O100採用晶圓級垂直堆疊技術，將DRAM晶圓直接堆疊於NPU上方，實現高達1.22TB/s的記憶體頻寬。

NVIDIA RTX 5090則透過512-bit記憶體介面搭配GDDR7顯示記憶體，將頻寬推升至接近1.8TB/s。

三家廠商同時將記憶體頻寬推進至TB/s世代，雖然採用的技術路線各不相同，但最終皆指向同一個結論：將資料「餵給」運算核心的速度，正在決定AI硬體能夠發揮出的真實效能。

此場競賽亦令記憶體頻寬逐漸成為比核心數量更值得關注的AI硬體效能指標，誰能率先在資料搬移速度上建立優勢，誰就更有機會於下一個運算時代掌握先機。

訊息來源