NVIDIA 發表新一代運算、加速 GPU 架構「Hopper」與首款 H100 SXM / PCIe / CNX / DGX 產品

NVIDIA 2022 GTC 由 Jensen Huang CEO 的 Keynote 演講中，正式揭曉新一代 NVIDIA Hopper 微架構與首款 H100 GPU，將再次提升運算、加速、AI 平台的處理效能。

NVIDIA Ampere 微架構發表後 2 年後，正式推出 NVIDIA Hopper 微架構，命名來自於美國先驅計算機科學家 Grace Hopper。

同時推出首款採用 NVIDIA Hopper 微架構的 GPU「NVIDIA H100」，採用 TSMC 客製 4N 製程多達 800 億電晶體，更有著革命性的 Transformer Engine 與第四代 NVIDIA NVLink，能夠針對巨大 AI 語言模型、深度推薦系統、基因學與複雜的數位孿生進行加速。

H100 更是首款支援 PCIe 5.0 的 GPU 以及整合 HBM3 記憶體，高達 3TB/s 的記憶體頻寬，效能更是上一代 A100 的翻倍提升，FP8 4,000 TFLOPS、FP16 2,000 TFLOPS、FP64 60 TFLOPS、TF32 1,000 TFLOPS 的驚人效能，但相對 TDP 也來到 700W 之高。

這代 Hopper 微架構當中，有著全新「Transformer Engine」，這是目前處理自然語言的標準模型亦是深度學習中最重要的模型之一，H100 加速 Transformer Engine 能夠帶來 6 倍的效能提升並且不會損失準確性。

「二代 Secure Multi-Instance GPU」MIG 技術可允許單一 GPU 分切為 7 個小型獨立的單元處理不同的作業類型；並且 H100 是首款支援「Confidential Computing」的加速器，對於資料私密性較為敏感的健康、金融等服務，可利用這技術確保數據安全性。

新加入的「DPX 指令」可加速 Dynamic Programming 使用廣泛演算法（Broad Range of Algorithms），包含 Route Optimization 與 Genomics 等功能，比起 CPU 可達到 40x 倍的速度提升、對比上一代 GPU 則可有著 7x 倍提升。包含著 Floyd-Warshall 演算法，可讓自主機器人於倉庫環境中找到最佳路徑，以及 Smith-Waterman 演算法用於 DNA 和蛋白質分類、折疊的序列比對法。

NVIDIA H100 預計將推出 SXM 與 PCIe 形式支援各種伺服器類型，以及 H100 CNX 內建 ConnectX-7 SmartNIC 網路晶片，還有著 DGX H100 系統與 DGX SuperPOD H100 等產品。

隨著 NVIDIA Hopper 微架構、H100 GPU 推出，能再次提升運算、加速、AI 平台處理效能，必預計於今年第三季開始供貨；相對的 GeForce 產品線也就有可能在今年推出新系列更新，就看 NVIDIA 如何規劃了。

NVIDIA 2022 GTC Keynote 演講：