AMD 教你如何在 Ryzen AI 與 Radeon 系統中執行 OpenAI GPT-OSS 20B 與 120B 語言模型

AMD 為 OpenAI 推出的全新 GPT-OSS 120B 與 20B 模型提供 Day-0 支援，率先使用 LM Studio 和全新 Adrenalin 25.8.1 WHQL 驅動軟體在 Windows AI PC 上本地運行 OpenAI GPT-OSS 120B 模型。透過每秒高達 30 token 的處理速度，使用者可享受直接在裝置上運行最先進模型的使用體驗。

GGML 轉換 MXFP4 大約需要 61GB 的記憶體，而 AMD Ryzen AI Max+ 395 處理器擁有 96GB 獨立記憶體，因此只要搭配 最新 AMD Software: Adrenalin Edition 25.8.1 WHQL 或以上驅動，即可在本地端運行。

GPT-OSS 20B 模型能在 Ryzen AI 300 系列筆記型電腦和 Radeon RX 9070 XT GPU 上高效運行，提供快速、靈敏且多模態（multi-modal）的工作流程。此外，AMD Ryzen AI Max+ 395 為全球首款可運行 OpenAI GPT-OSS 120B 參數模型的消費級 AI PC 處理器。OpenAI 與 AMD 持續攜手合作，以最先進的硬體提供卓越效能及體驗。

若玩家有興趣也可以參考 AMD Blog 文章，內有提到如何在 AMD Ryzen AI 處理器與 Radeon 顯示卡的系統中，實際安裝 OpenAI 的 GPT-OSS 120B 與 20B 模型的說明。

source:amd.com、OpenAI部落格。