迷你 GenAI!NVIDIA RTX™ 2000 Ada Generation 專業繪圖卡開箱測試
免額外供電又有著 16GB GDDR6 ECC 記憶體的迷你專業繪圖卡「NVIDIA RTX™ 2000 Ada Generation」,讓需要大容量記憶體、小尺寸顯卡的迷你工作站,有著最佳的 NVIDIA Ada Lovelace 新世代升級,藉助新一代 CUDA 核心、第三代 RT 核心與第四代 Tensor 核心,為圖形、渲染、GenAI 等工作注入強大運算能力。而專業繪圖卡的銷售與支援服務,則交由 NVIDIA 長期的合作伙伴麗臺科技 LEADTEK 為各位服務。
規格
GPU 架構:NVIDIA Ada Lovelace
CUDA 平行處理核心:2816
NVIDIA Tensor 核心:88
NVIDIA RT 核心:22
單精度效能:12 TFLOPS
RT Core 效能:27.7 TFLOPS
Tensor 效能:191.9 TFLOPS
GPU 記憶體:16 GB GDDR6 ECC
記憶體介面:128-bit
記憶體頻寬:224 GB/s
最大功耗:70 W
繪圖匯流排:PCI Express 4.0 x8
顯示連接器:mDP 1.4 x4
尺寸:2.7″ H x 6.6″ L 雙寬度
重量:296g
編解碼引擎:1x encode, 1x decode (+AV1 encode/decode)
內容目錄
最小的免插電 16GB 專業繪圖卡 NVIDIA RTX™ 2000 Ada Generation
NVIDIA RTX Ada Generation 系列專業繪圖卡陣容中尺寸最小、無須額外供電最大功耗僅 70W,且具備著 16 GB GDDR6 ECC 記憶體的「NVIDIA RTX™ 2000 Ada Generation」(以下簡稱 RTX 2000),能在小尺寸的專業工作站中提供影像輸出、AI、3D 渲染、VFX、模擬與計算等專業工作所需的效能。
↑ NVIDIA RTX Ada Generation 專業繪圖卡。
RTX 2000 採用 AD107 GPU 核心,具備 2816 個 CUDA 平行處理核心、88 個 Tensor 核心與 22 個 RT 核心,配置 16GB GDDR6 ECC 修正錯誤視訊記憶體,可提供 12 TFLOPS 單精度效能、27.7 TFLOPS RT Core 效能與 191.9 TFLOPS 的 Tensor 運算效能;相比上一代 RTX A2000 在繪圖、渲染與生成式 AI 任務中提升 1.5x 倍。
而 RTX 2000 僅 2.7″ 長、6.6″ 高、佔用雙 Slot 的寬度,加上僅 70W 的最大功耗無須額外供電,讓一般的工作站電腦、迷你系統都可無痛升級至 RTX Ada 世代。
↑ RTX 2000 Ada Generation 相比上一代 RTX A2000 的效能提升。
迷你工作站 RTX 2000,可透過文字生成圖片的 Stable Diffusion 模型,讓創意工作者可藉助 AI 發想創意,通過 RTX GPU 加速獲得意想不到的創意;或者透過 ChatRTX 自行建立本機執行的 GPT 大語言模型 (LLM),通過檢索增強生成 (RAG)、TensorRT-LLM 和 RTX 加速,查詢私人的資料庫讓機器人告訴你正確答案與出處。
↑ Stable Diffusion ComfyUI 的文字生成圖片。
當然 NVIDIA 專業繪圖卡主要都由合作伙伴銷售,像是麗臺科技銷售的專業繪圖卡產品,享有「三年保固」,保固內提供「到府收送」的服務,並提供「0800-600-206」技術服務專線,能給予企業、客戶完整的技術支援與服務;這也是與遊戲顯卡差異最大的地方之一。
硬體方面 NVIDIA RTX 專業繪圖卡與 GeForce RTX 遊戲顯卡的差異在於,專業繪圖卡配置更大的 GDDR6 視訊記憶體,並支援記憶體 ECC 錯誤修正碼的功能,以及較穩定的運作時脈與較低的功耗設定。
而且 NVIDIA RTX 專業繪圖卡支援著更多的企業專業應用,像是 RTX 虛擬工作站(vWS)、Mosaic 多顯示器、RTX 桌面管理軟體,以及企業管理工具等。
至於繪圖卡驅動 NVIDIA 提供兩種選擇:「正式分支 / Studio」與「新功能分支」的驅動分支版本。簡單來說,「正式分支 / Studio」提供最佳穩定性與效能,以及 ISV 認證、較長的生命週期、安全性更新等最穩定的版本;而「新功能分支」則是提供最新的驅動功能、錯誤修正與作業系統支援。
↑ NVIDIA RTX 驅動下子可選擇「正式分支 / Studio」或「新功能分支」的驅動。
NVIDIA RTX™ 2000 Ada Generation 專業繪圖卡開箱
RTX 2000 專業繪圖卡超迷你的尺寸,長度僅 16.7cm、高度 6.8cm、佔用 2-Slot 安裝空間,造型一樣維持著專業繪圖卡啞黑方正有形的外觀,兩側黑鏡面的曲線線條與暗金字的 RTX 2000 與 NVIDIA 字樣。
↑ 側面黑鏡面的曲線,以及 NVIDIA 與 RTX 2000 字樣。
RTX 2000 提供 4 個 mDP 1.4 顯示輸出,配件中有提供一個 mDP 轉大 DisplayPort 的轉接線並帶有卡扣設計。此外,若安裝的工作站使用正常高的 PCIe 檔板,也可在配件中自行更換全高的 PCIe 檔板。
↑ 配件則有 mDP 轉大 DisplayPort 的轉接線、全高檔板與說明文件。
NVIDIA Control Center、ECC、Mosaic、RTX Desktop
NVIDIA 控制中心可找到 Change ECC 的設定頁面,RTX 2000 專業繪圖卡採用 16GB GDDR6 ECC 記憶體,預設上會啟用記憶體 ECC 功能,畢竟專業工作的運算、模擬都需要花費長時間進行,因此藉由記憶體的錯誤修正碼 ECC,能為工作站提高計算精確度與可靠性。
對於專業工作站的多 GPU、多螢幕連接情境下,NVIDIA 控制中心也提供 Topology 資訊,從系統驅動版本、專業繪圖卡的 4 個螢幕輸出埠,以及目前正在連接的外接螢幕資訊,讓用戶可以更有效的管理工作站目前使用的 GPU 與外接螢幕。
NVIDIA Mosaic 多顯示器技術,支援最多 4 個 GPU、16 個顯示器的畫面整合,用戶可依據使用環境來排列顯示器,並整合作為單一桌面使用,並提供螢幕邊框校正、投影機重疊等進階的多螢幕整合功能。
GPU 使用模式可在 NVIDIA 控制中心調整,預設是繪圖、運算都會使用的模式,倘若是指做繪圖功能也可切換至專注繪圖任務的 GPU 模式。
RTX 桌面管理軟體,則是更強大的桌面視窗排列、管理的工具軟體,而且可直接在軟體中控制多螢幕內的所有視窗排列,並可將目前的視窗配置儲存為 Profile,並提供預設的幾種 GRID 分割方式,讓多螢幕、多視窗工作情境可更有效的管理。
NVIDIA RTX™ 2000 Ada Generation 渲染效能測試
效能評估方面則使用專業領域會參考的 SPECviewperf、Blender、Vray 與 UL Procyon 等工具,來測試 RTX 2000 專業繪圖卡的渲染、運算效能,同時也加入 Stable Diffusion 等 AI 測試。
測試平台
處理器:Intel Core i7-13700K
主機板:ASUS ROG MAXIMUS Z790 HERO
記憶體:Crucial DDR5-6000 24GBx2
顯示卡:NVIDIA RTX™ 2000 Ada Generation
系統碟:Solidigm P41 Plus 1TB PCIe 4.0 SSD
散熱器:ROG 360mm 水冷
電源供應器:Seasonic VERTEX GX-1000
作業系統:Windows 11 Pro 21H2 64bit、Resizable BAR On
驅動版本:NVIDIA
GPU-Z 檢視 RTX 5000資訊,採用 5nm 製程的 AD107 GPU,有著 2816 個渲染 CUDA 核心,以及 16384 MB GDDR6(Samsung)記憶體,而 GPU 預設時脈 1620 MHz、Boost 2130 MHz。
CINEBENCH 2024 新版本全面採用 Cinema 4D 預設的 Redshift 渲染引擎開發,並包含 GPU、CPU 的完整測試並支援跨平台的性能比較,這也帶給 CPU 更強悍的渲染測試。
RTX 2000 GPU 獲得 9924 pts 的渲染成績,比起處理器的運算效能還要快上許多。
Blender 是跨平台、開放源碼的 3D 創作工具,支援著各種 3D 作業:Modeling、Rigging、Animation、Simulation、Rendering、Compositing 與 Motion Tracking 等。而測試,則以 Blender Benchmark 3.5.0 進行 Demo 專案的渲染工作測試。
Blender Benchmark 測試 RTX 2000 在 monster 場景達到 1392.622 分、junkshop 場景 696.869 分、classroom 場景 747.284 分,滿足 3D 創作所需的渲染效能。
V-Ray Benchmark 是由 Chaos Group 所開發,V-Ray 是基於物理法則所設計的光線渲染軟體,而此工具可分別針對 CPU 與 GPU 進行光線追蹤的渲染圖像的運算測試。
V-Ray 測試,RTX 2000 採用 CUDA 運算可達到每秒 1065 vpath 的計算量,而採用 RTX 運算則可達到每秒 1484 vray 的運算效能。
SPECviewperf 2020 基於專業應用所開發的標準繪圖效能測試工具,測試各式專業的計算機圖形軟體如:3ds Max、Catia、Creo、Energy、Maya、Medical、SNX、SolidWorks 等繪圖測試與工程模擬。
測試為 1920 x 1080 解析度、成績為 FPS,可見 RTX 2000 在各項專業工作中都能提供不錯的 FPS 流暢度,讓專業工作者在創作、模擬、運算時也有足夠的繪圖效能。
NVIDIA RTX™ 2000 Ada Generation AI、Stable Diffusion 測試
UL Procyon AI Image Generation Benchmark 提供 Stable Diffusion XL (FP16) 與 Stable Diffusion 1.5 (FP16) 的兩種測試情境,並支援 ONNX runtime with DirectML、NVIDIA TensorRT 與 Intel OpenVINO 的推論引擎。
RTX 2000 基於 TensorRT 進行測試,標準的 Stable Diffusion 1.5 (FP16) 獲得 800 分成績、花費 124.9 秒推論出 16 張圖片、每張照片需使用 7.8 秒生成。而 Stable Diffusion XL (FP16) 模型獲得 763 分、花費 785.9s 秒推論出 16 張圖片、每張照片需花費 49.1 秒生成。
UL Procyon AI Computer Vision Benchmark 則是針對多款神經網路模型進行測試,並可選擇 Integer、Float16/32 等不同測試精準度。測試成績除了總分外,也會有 MobileNet V3、ResNet 50、Inception V4、DeepLab V3、YOLO V3 與 Real-ESRGAN 等模型的平均推論時間與總推論計數等資訊提供用戶參考。
RTX 2000 採用 TensorRT 引擎與 Integer 精度獲得 1850 分的成績,而每個模型的推論時間與計數則提供給各位參考。
↑ UL Procyon AI Computer Vision Benchmark。
NVIDIA RTX™ 2000 Ada Generation 功耗與溫度測試
藉由 FurMark Knot 壓力測試 RTX 2000 的溫度與功耗表現。RTX 2000 GPU 溫度維持在 75°C 左右、記憶體溫度 72°C、Hot Spot 來到 83°C,這時風扇轉速為 54% 並不至於過吵。至於 GPU 功耗則是壓在 67.5W 的表現。
總結
RTX 2000 專業繪圖卡以小巧尺寸、70W 功耗,讓迷你工作站、迷你主機都能輕鬆升級,面對新一代生成式 AI 的挑戰,有著 16GB GDDR6 ECC 記憶體與 TensorRT 加速,可順利推論 Stable Diffusion 文字生成圖片、ChatRTX 本機執行的大型語言模型聊天機器人等 AI 應用工作。
另一方面,NVIDIA 給予專業用戶完整的軟硬體生態系,像是 GPU 虛擬化、Mosaic、RTX 桌面管理,以及由 NVIDIA 開發的 SDK 軟體工具等整合,橫跨 AI、資料科學、資料中心、雲端、設計、模擬、機器人、高效能運算、自駕車等不同領域,讓各行各業的難題都可通過 GPU 加速迎刃而解。
最後,NVIDIA 的專業繪圖卡產品,由捷元代理的麗臺科技NVIDIA專業繪圖卡產品則提供完善的售後服務,不僅享有 3 年到府收送的保固服務,更有著免付費的客服專線「0800-600-206」,提供各領域的專業用戶最安心、穩定的創作、運算體驗。更多產品訊息可至捷元官網或捷元@Line洽詢。