顯示卡、器

96GB 記憶體升級!NVIDIA RTX PRO™ 6000 Blackwell 系列 GPU 突破性 AI 效能

NVIDIA 專為工作站、伺服器與資料中心推出介面卡形式 GPU:NVIDIA RTX PRO™ 6000 Blackwell 工作站版本、Max-Q 工作站版本和伺服器版本 GPU,三個型號皆有著超大 96GB GDDR7 記憶體升級,可大幅加速運算、人工智慧(AI)訓練 / 微調 / 推論、光線追蹤和神經渲染技術,提供強悍的新一代運算效能與多 GPU 擴展性,重新定義 AI、技術、創意、工程和設計專業人士的工作流程。

單卡 96GB 大容量 NVIDIA RTX PRO™ 6000 Blackwell 還能 4x GPU 彈性擴充

新一代 NVIDIA RTX PRO 6000 Blackwell 全面採用 GDDR7 ECC 記憶體,容量更是上一代 Ada的兩倍提升,達到驚人的單卡 96GB 大容量並支援錯誤校正碼(ECC),可應對大規模 3D 模型、AI 專案所需的記憶體容量。並採用 PCIe 5.0 x16 連接,可達到每秒 64GB 的頻寬,大幅提升 CPU 與 GPU 間的資料流通效率,並具備優異的擴充彈性。

從目前最受關注的 AI 應用來看,大型語言模型(LLM)已成為技術核心,廣泛應用於問答系統、聊天機器人、資料彙整與程式開發輔助等場景。這類模型在執行推論與推理時,仰賴龐大的運算能力與記憶體資源,並需經過多重步驟處理,才能輸出精準的結果。而進一步延伸至 Physical AI 應用,則需先在虛擬環境中完成模擬、測試、訓練與推論,才能順利部署至真實世界。這類流程高度複雜,涉及多種 AI 技術的整合與協作,更凸顯高效能 GPU 及大容量記憶體在現代 AI 開發中的關鍵角色。

除此之外,NVIDIA RTX PRO 6000 Blackwell搭載的第五代 Tensor 核心加速了神經網路訓練與推論所需的深度學習矩陣運算,運算吞吐量提升達 3 倍,並新增 FP4 精度同時支援 TF32、BF16、FP16、FP8 及 FP6 等數據類型。採用相同 Flux.dev 模型測試,使用 FP4 精度僅需 10GB VRAM 與 3s 秒的時間即可生成圖片,但相比上一代若使用 FP16 精度則需佔用 23GB VRAM 與 20s 秒的生成時間。不僅有著相似的生成結果,但大幅縮短生成時間提升效能,並降低記憶體需求,讓專業工作者可同時執行更多 App。

而 NVIDIA RTX PRO Blackwell GPU 的強大不僅止於硬體,基於 CUDA-X 微服務提供完整的 AI 開發環境。CUDA-X 函式庫以 CUDA 為基礎,可簡化採用 NVIDIA 加速平台並用於資料處理、人工智慧和高效能運算的過程。讓工程師不論是在 PC、工作站、雲端或與超級電腦,使用 CUDA 平台輕鬆建立、最佳化、部署和擴充應用程式。

NVIDIA RTX PRO 6000 Blackwell 工作站版本 GPU 相比上一代 RTX 6000 Ada GPU,在 LLM 推論效能有著 3.8x 倍提升、文字生成圖像 2.5x 倍提升、Genomics 基因科學 7.1x 倍提升、影音剪輯 15.2x 倍提升、Omniverse 創建模擬協作 3D 平台有著 2.5x 倍提升、渲染與繪圖則有著 2.4x 倍的效能升級。

更進一步測試,新一代 NVIDIA RTX PRO 6000 Blackwell 工作站版本,在 LLM 大型語言模型 Mistral 測試中,RTX PRO 6000 Blackwell 達到驚人的 5.7x 倍 AI 效能提升;而在 AI 推論 Geekbench AI 測試達到 1.9x 倍升級;至於 AI 推論 DeepSeek R1 有著與 AI 訓練 GraphSAGE 都有著 2.1x 倍領先;在數據科學 RAPIDS cuDF 則有著 1.8x 倍的效能提升。

 

NVIDIA RTX PRO™ 6000 Blackwell

有別於 NVIDIA HGX 的機架式伺服器平台,NVIDIA RTX PRO 6000 Blackwell 系列主要提供給桌上型 PC、工作站、多卡伺服器等平台,讓專業用戶可依據需求彈性搭配所需的設備。並有著工作站版本、Max-Q 工作站版本和伺服器版本三種。


↑ NVIDIA RTX PRO™ 6000 Blackwell 系列。圖片來源:麗臺科技。

 

NVIDIA RTX PRO™ 6000 Blackwell 工作站版本

工作站版本的 NVIDIA RTX PRO 6000 Blackwell GPU,採用與桌上型 RTX 5090 相同的創始版散熱設計,但換上全黑的造型使用雙插槽、高 5.4 吋、長 12 吋的專業工作卡,屬於全能型 GPU 可加速 AI 開發、AI 推論、資料科學、HPC 科學運算、AI 渲染與繪圖、影片內容與串流以及遊戲開發等專業工作。

NVIDIA RTX PRO 6000 Blackwell 工作站版本 GPU 擁有 4000 TOPS AI 效能、380 TFLOPS RT 核心效能與 125 TFLOPS 單精度效能,具備 24,064 個 CUDA 核心、96GB GDDR7 ECC 記憶體;最高 600W總板卡功耗,並採用 PCIe Gen5 16pin 電源連接;並支援多實例 GPU(MIG)可分割最多 4 個 24GB 容量的獨立 GPU。

顯示輸出則提供 4 個 DisplayPort 2.1 連接埠,最多 4 個 4K@165Hz 或最多 2 個 8K@100Hz 顯示輸出,並支援 RTX PRO Sync、Mosaic 與RTX 桌面管理軟體等功能。

NVIDIA RTX PRO 6000 Blackwell Workstation Edition 有著單卡最強大的 AI 效能與超大 96GB 記憶體容量,能夠實現一台桌上型 PC 即可擁有當代 AI 開發所需的效能。

NVIDIA RTX PRO™ 6000 Blackwell Max-Q 工作站版本

Max-Q 工作站版本 NVIDIA RTX PRO 6000 Blackwell GPU,則是限制 GPU 總板卡功耗 300W,維持雙插槽、高 4.4 吋、長 10.5 吋的主動式鼓風扇散熱設計。主要是讓功耗沒這麼高的工作站,也可藉由 RTX PRO 6000 Blackwell Max-Q 擴充多 GPU 獲得更大的記憶體容量。

單卡 300W 功耗下擴建 4 張 GPU 即可在單一工作站達到 384GB 記憶體總容量,而這也只需搭配 1500W-2000W 的電源供應器,即可讓桌上型工作站擁有處理複雜 AI 的訓練、微調等工作。而效能上,單卡具備 3511 TOPS AI 效能、333 TFLOPS RT 核心效能與 110 TFLOPS 單精度效能。

NVIDIA RTX PRO™ 6000 Blackwell 伺服器版本

這次同時推出的伺服器版本的 NVIDIA RTX PRO 6000 Blackwell GPU,雖說有著相同記憶體等規格,但主要差異在於 GPU總板卡功耗介於 400W-600W 的可調整設計,並採用雙插槽、高 4.4 吋、長 10.5 吋的被動散熱設計,主要是利用機架伺服器的主動氣流進行散熱。

效能上有著 117 TFLOPS 單精度效能、3.7 PFLOPS FP4 AI 效能、354.5 TFLOPS RT 核心效能;並一樣提供 4 個 DisplayPort 2.1 顯示輸出。簡單來說,NVIDIA RTX PRO 6000 Blackwell 伺服器版本是採用被動散熱器,符合標準高、全長的介面卡設計,讓機架伺服器可彈性的擴充 GPU 數量。

效能上, NVIDIA RTX PRO 6000 Blackwell 伺服器版本相比 L40S,在 LLama3 8B / 70B 推論輸出有著 最高5.6x 倍提升,在模型微調效能則有2x 倍升級。在 Mixtral8 / 7B ,推論輸出也有3.6 倍、模型微調1.8 倍的效能升級。

NVIDIA Omniverse 是基於 OpenUSD 結合 RTX 即時渲染技術以及生成式實體人工智慧整合至現有的軟體工具和模擬工作流程中,針對大規模、準確物理模擬環境,提供 AI 自動系統進行訓練的平台。NVIDIA RTX PRO 6000 Blackwell 伺服器版本相比 L40S,在 Omniverse 即時渲染效能有著 2.2x 倍提升,而在機器人感偵測模擬中則有著 1.8x 倍效能提升,有助於數位孿生與機器人研發的應用推進。

總結

NVIDIA RTX PRO 6000 Blackwell 包含工作站、伺服器與 Max-Q 工作站版本,讓專業用戶可依據系統功耗、介面卡尺寸、散熱方式等選擇所需的 GPU,利用絕佳的 AI 處理能力加速最新進的模型,處理複雜的設計、模擬、渲染、影音剪輯特效等創意工作流程。


↑ NVIDIA RTX PRO™ 6000 Blackwell 尺寸與規格表。資料來源:NVIDIA 官網。

而 NVIDIA RTX PRO 6000 Blackwell 則交由 NVIDIA 最具代表性的長期合作夥伴麗臺販售,而且麗臺長期深耕專業 GPU 領域,不僅具備堅實的技術實力,更擁有完整的技術支援與在地化服務體系,能協助企業快速導入高效能運算解決方案。

今年麗臺更進一步擴展佈局,成為 NVIDIA DGX Spark 桌上型個人 AI 超級電腦的指定供應商,積極推動 AI在各行各業快速普及,致力成為企業 AI 轉型的最佳技術夥伴。

NVIDIA RTX PRO 6000 Blackwell 系列專業 GPU 卡將於原價屋、昇鼎、晶蝶、立曜、德源進行銷售。

延伸影片閱讀:  
Previous post

微軟全新 Copilot+ PC 即將推出 Surface Pro 12 吋 與 Surface Laptop 13 吋採用 Snapdragon 處理器

Next post

任天堂 Switch 2 行動開播神器來了!圓剛 GO 系列 USB-C 擷取充電器

The Author

sinchen

sinchen

我是 Sinchen。