GIGABYTE AI TOP ATOM 迷你 AI 超級電腦開箱 / 最小體積、240W 功耗、128GB 記憶體

NVIDIA 親手打造的 DGX Spark 採用 GB10 Grace Blackwell 超級晶片，能提供 1 petaFLOP 的 AI 運算效能、128GB 系統記憶體，以及 NVIDIA ConnectX-7 NIC 讓主機間串接提升運算效能。而這台迷你 AI 超級電腦僅 1L 深體積、最高 240W 的整機功耗，讓 AI 開發者可在辦公室、家中輕鬆載入擁有 200B 參數的 AI 大模型，進行原型設計、微調及推論，並順利部署至資料中心或雲端。

GIGABYTE AI TOP ATOM 規格
GPU：NVIDIA Blackwell Architecture
CPU：20-core Arm (10x Cortex-X925 + 10x Cortex-A725)
Tensor Performance：1 petaFLOP Sparse FP4
System Memory：128 GB LPDDR5x (Unified System Memory)
Memory Interface：256-bit
Memory Bandwidth：273 GB/s
Storage：Gen5 14000 SSD 4TB with self-encryption
I/O：4 x USB 3.2 Type-C (20Gbps)、1 x RJ-45 (10 GbE)、HDMI Multichannel Audio Output、1 x HDMI 2.1a
NIC：NVIDIA ConnectX-7
Wi-Fi：Wi-Fi 7、Bluetooth 5.4
Max Power Consumption：USB-C 240W 變壓器
NVENC | NVDEC：1x | 1x
OS：NVIDIA DGX OS、Ubuntu Linux
System Dimensions：150 x 150 x  50 mm
System Weight：1.3KG

桌上的迷你工作站！GIGABYTE AI TOP ATOM 開箱

NVIDIA DGX Spark 除了創始版之外，也交給合作夥伴推出自家的迷你 AI 超級電腦就是技嘉的「AI TOP ATOM」，只不過硬體方面合作夥伴僅只能針對外殼、SSD 來調整，除此之外也可提供引導安裝自家的軟體，像是技嘉主打的 AI TOP 工具，即可讓 ATOM 快速下載模型進行推論、RAG 與 ML 等測試功能。

↑ 技嘉  AI TOP ATOM。

技嘉 AI TOP ATOM 迷你超級電腦，採用格柵式門板造型，像是縮小版的積架式伺服器。內部採用 GB10 Grace Blackwell 超級晶片，具備 20 核心 Arm 處理器與 NVIDIA Blackwell GPU、6144 個 CUDA 核心，以及 128 GB LPDDR5x 系統記憶體。

NVIDIA 提到這台 AI TOP ATOM 可達到 1 petaFLOP 運算效能，效能衡量的基準是使用稀疏矩陣 Sparse、精度 FP4 的運算結果。而技嘉在這台迷你超級電腦中，直上 4TB 大容量 Gen5 14000 SSD，一次滿足工作者儲存模型所需的空間。

↑ AI TOP ATOM 前面板造型。

↑ 上方與側面則是灰色的簡約金屬外殼。

只不過 AI TOP ATOM 的 I/O 相對少，僅提供 4 個 USB 3.2 Type-C (20Gbps)、1 個 10GbE RJ-45，以及 1 個 HDMI 2.1a 輸出影像與聲音；連線方面，除了有線網路外還有著 Wi-Fi 7、Bluetooth 5.4，以及 2 個 NVIDIA ConnectX-7 可以將兩台 DGX Spark 系統串接，協同處理 4050 億個參數的人工智慧模型。

↑ AI TOP ATOM 後 I/O。

↑ 機器底部。

AI TOP ATOM 必須使用 240W USB-C PD 變壓器供電，而且用戶需準備 USB-C 轉 USB-A 的 Dock，這樣才方便連接滑鼠鍵盤。

↑ 240W USB-C PD 變壓器。

↑ 台達的 USB PD 3.1 變壓器，支援最高 240W 的變壓調整能力。

↑ 記得準備 USB-C 轉 USB-A 的 Dock 喔！

NVIDIA DGX OS / Start Building On DGX Spark

AI TOP ATOM 一樣採用 NVIDIA DGX OS 作業系統，也就是 Ubuntu 24.04.3 LTS 的系統版本。初次啟動後，可在桌面找到「DGX Spark Resources」的網頁，可連上 build.nvidia.com/spark 獲得各種操作的文字教學，包含初次的環境設定、Data Science、Tools、Fine Tuning、Use Case 等，提供相當多的資料讓用戶可以快速上手。

↑ AI TOP ATOM 系統桌面。

↑ DGX Spark Resources 網頁。

↑ 包含各式各樣的引導教學。

↑ 教學內也有提供詳盡的操作指令。

DGX Dashboard 則包含基本的系統記憶體與 GPU 使用率，以及整合 Jupyter Lab 專案開發的開源軟體。啟用 Jupyter Lab 即可藉由網頁操作來建立 Notebook Python 3 的管理，進行開發、執行等工作。

↑ DGX Dashboard 與 Jupyter Lab。

↑ Jupyter Lab 管理頁面。

GIGABYTE AI TOP 推論、下載、ML 一把罩

技嘉也提供 AI TOP ATOM 專屬的 Arm 版本 AI TOP 工具，在 Dashboard 可以監控 GPU、CPU、DRAM、SSD 等硬體使用量與 CPU 核心溫度。用戶可在 Download 頁面輸入 Hugging Face Access Token（記得開啟權限），即可下載所有支援的 AI 模型。

↑ AI TOP Dashboard。

↑ 下載頁面，輸入 Access Token 即可直接下載模型。

Inference 頁面中，可以實際推論文字生文 / 圖片 / 影片等推論類型，並選擇相對應的模型、輸出路徑與一些參數設定，即可按下 Start Chat 運行模型進行推論。

↑ Inference 文生圖。

↑ Inference 文生文。

RAG 檢索增強生成則允許加入本地的資料結合 AI 來進行推論，可以指定 Text、Audio、Image、Video Embedding 模型，並搭配 AI 模型來詢問有關本地資料的內容。

↑ RAG 檢索增強生成。

Machine Learning 則整合影像辨識、物件偵測、圖片辨識、文字識別等各種機器學習應用，用戶只需指定專案名稱即可，由 AI TOP 幫忙下載模型、建立環境，並引導由 Jupyter Lab 來執行專案。

↑ Machine Learning。

↑ AI TOP 幫忙下載模型、建立環境。

↑ Jupyter Lab 專案。

總結

GIGABYTE AI TOP ATOM 採用 NVIDIA GB10 Grace Blackwell 超級晶片，打造迷你主機當中的 AI 超級電腦，並擁有高達 128 GB LPDDR5x 的統一系統記憶體，滿足 AI 模型開發、測試、推論、微調所需的記憶體使用量，以及 NVIDIA AI 軟體堆疊包括工具、框架、函式庫與預先訓練的模型。

AI TOP ATOM 讓開發者可在本地端進行開發與測試，整台系統最高僅 240W 的功耗，再加上高負載運算時風扇噪音相當低，相比高階工作站 PC 來說，更適合在辦公室、家中來使用的迷你 AI 超級電腦。

當然若真要對比運算效能，肯定遠不急桌上型 GPU，但相比體積、功耗與噪音（散熱），AI TOP ATOM 確實能成為辦公桌上最佳的迷你 AI 超級電腦。