不是NVIDIA!蘋果官宣AI模型訓練用的Google晶片
蘋果公司在其技術論文中透露,其人工智慧系統Apple Intelligence所依賴的模型並非基於NVIDIA晶片,而是在Google設計的雲端晶片上進行預訓練的。
NVIDIA的GPU一直以高價位和高需求著稱,是許多大型科技公司AI訓練的首選。
然而,蘋果選擇了Google的張量處理單元(TPU),這可能預示著大型科技公司在AI基礎設施上的多樣化選擇。
蘋果在論文中詳細介紹了使用TPU v4和TPU v5p晶片進行模型預訓練的過程。
據悉,蘋果的設備端AI模型是在2048個TPU v5p晶片上訓練的,而伺服器端模型則使用了8192個TPU v4晶片。
儘管蘋果初期使用了Google的硬件,但它已經部署基於自研Apple Silicon晶片的硬體來處理Apple Intelligence的查詢,並啟動了「Project ACDC」項目,以優化資料中心內的AI應用。
此外,蘋果還計劃在未來兩年內投入超過50億美元用於AI伺服器的升級,並購買數萬台AI伺服器,同時收購了專注於壓縮AI查詢數據的公司,以加速其在AI領域的競爭力。
延伸影片閱讀: