傳OpenAI對NVIDIA晶片在推理上的表現不滿, 雙方擬議交易遭遇延期
去年9月,NVIDIA與OpenAI宣布,雙方將建立戰略合作夥伴關係,簽訂了一份具有里程碑意義的戰略合作意向書,為OpenAI的下一代人工智慧基礎設施部署至少10吉瓦算力的NVIDIA系統,以便訓練和運行其下一代模型。為了支持這次合作,包括資料中心和電力供應,NVIDIA打算在每吉瓦算力的部署過程中逐步向OpenAI投資,將高達1000億美元。第一階段的目標是在2026年下半年,使用Vera Rubin平台的上線。
根據TrendForce報道,隨著AI工作負載越來越多地轉向推理環節,OpenAI可能正在重新評估其對NVIDIA晶片的滿意度。有消息人士透露,OpenAI認為NVIDIA最新的AI晶片可能無法完全滿足其需求,並且自去年以來一直在探索其他替代方案,以滿足自身月10%的推理計算需求。
毫無疑問,NVIDIA在用於訓練大型AI模型的晶片領域仍然佔據主導地位,但是隨著推理環節成為一個新的競爭焦點,OpenAI與其他一些參與者都在探索替代方案,對於NVIDIA來說是一次考驗。在這更廣泛背景下,NVIDIA與OpenAI之間的交易產生了變數,原本預計數週內完成的談判已持續了數月之久,似乎陷入了僵局。
OpenAI曾與包括Cerebras和Groq在內的公司討論合作,以提供更快的推理晶片。不過去年12月,Groq與NVIDIA就其推理技術達成了價值200億美元的非排他性授權協議,讓OpenAI的談判破裂。