全新 NVIDIA Hyperscale 級加速器 為網路資料中心大幅提升機器學習處理量

網路服務巨擘運用人工智慧打造各種更智慧型應用
驅使機器學習負載量呈爆炸性成長

NVIDIA (輝達) 今天宣布推出 hyperscale 級端對端資料中心平台，力助網路服務供應商加速他們的巨量機器學習作業負載量。

NVIDIA的 hyperscale 級產品系列包括兩款加速器。其中一款加速器可讓研究人員針對不斷增加的人工智慧技術應用項目來加快其中全新深度神經網絡之創新與設計；另一款加速器則是用於在資料中部署深度神經網絡設計的低功耗加速器。這系列的加速器也內含 GPU 加速的函式庫。

這些加速器可讓開發人員在 hyperscale 級的資料中心運用效能強勁的 Tesla 加速運算平台以加速機器學習的運算效率，並可打造前所未有的人工智慧應用。

NVIDIA 執行長暨共同創辦人黃仁勳表示：「業界已展開了人工智慧的競賽。機器學習無疑是現今運算技術上其中一項最重要的發展，其規模已涵蓋 PC 、網路和雲端運算。當我們談論這個議題時，消費性雲端服務、汽車和醫療保健等產業正因運用機器學習發生重大變革。」

黃仁勳認為：「機器學習是這個世代的一項重大運算挑戰。NVIDIA 設計了 hyperscale 級 Tesla 加速器系列，為機器學習提升 10 倍效率，可為資料中心節省了巨額成本和時間。」

由於具備人工智慧功能的網路應用爆增， NVIDIA 全新的軟硬體產品更是特別為加速這股趨勢應運而生，而機器學習發展的重大突破更可讓應用開發人員運用人工智慧技術打造具更智慧化的應用和服務。

機器學習已用於打造更精準的語音辨識功能，它實現了於影片或照片裡自動辨識物體與場景，並加上標籤供日後搜尋；同時亦可從影片或照片中辨識人臉，連局部模糊的人臉也可辨識。機器學習還開發出能辨別個人喜好與興趣的服務，可安排日程、提供相關新聞和準確回應語音指命，甚至可進行來回對話。

機器學習讓這些新穎又新奇的應用和服務不再遙不可及。挑戰在於取得龐大的超級電腦運算能力，以創新和訓練不斷增加的深度神經網路數量，還有立即回應數十億服務使用者要求所需的處理能力。NVIDIA hyperscale 級加速器系列便是為了加速這些龐大作業負載和大幅提升資料中心處理量而誕生。

全新的 NVIDIA Tesla 平台包括：

• NVIDIA Tesla M40 GPU：效能最強的加速器，可用於訓練各種深度神經網絡
• NVIDIA Tesla M4 GPU：專為機器學習判斷影像串流和視訊處理設計的小型低功耗加速器
• NVIDIA Hyperscale 套件：已針對機器學習和視訊處理優化的豐富軟體套件

NVIDIA Tesla M40 GPU加速器
NVIDIA Tesla M40 GPU 加速器可讓資料科學縮短他們訓練深度神經網絡所需的時間，在處理龐大資料量並需提升整體準確度的同時也可縮短數天，甚至數週時間。

NVIDIA Tesla M40 GPU加速器的主要功能包括：

• 機器學習優化功能：相較於使用CPU訓練機器學習所需的時間，Tesla M40 GPU加速器可減少 8 倍時間 (以訓練典型的AlexNet為例，CPU需要 10 天，但Tesla M40 GPU加速器可縮短至 1.2 天)
• 24/7 全天候可靠度：針對各種資料中心環境設計並經過驗證的高可靠度，
• 全面擴充效能：支援NVIDIA GPUDirect，並可執行快速的多節點神經網絡訓練

NVIDIA Tesla M4 GPU 加速器
NVIDIA Tesla M4 GPU 加速器是專為各種 hyperscale 級支援 GPU 運算環境打造的低功耗加速器，並針對影音轉碼、影像和視訊處理及機器學習判斷等高規格和快速成長的網路服務應用進行優化。主要功能包括：

• 更高的處理量：對比 CPU，它提供最多可快5倍的同步視訊串流轉碼、加速和分析功能。
• 低功耗運算：Tesla M4 GPU 加速器擁有使用者選式功耗分析功能，只需 50-75 瓦功耗，在視訊處理和機器學習演算法運算方面可比 CPU 省電 10 倍。
• 輕巧設計：小型的 PCIe 設計可符合各種 hyperscale 級資料中心系統需求。

NVIDIA Hyperscale套件
全新的 NVIDIA Hyperscale 套件可同時提供開發人員和資料中心管理員所需旳工具，特別適用於建置各種網路服務，包括：

• cuDNN：業界最廣泛採用處理人工智慧應用的深度卷積神經網路演算法軟體
• GPU 加速 FFmpeg 多媒體軟體：發揮廣泛應用的 FFmpeg 軟體優勢加速影音轉碼和視訊處理作業。
• NVIDIA GPU REST 引擎：可讓開發人員輕鬆建置和部署高處理量、低延遲率的加速型網路服務，可用範圍涵蓋動態影像大小重建、搜尋加速、影像分類等任務。
• NVIDIA影像運算引擎：含 REST API 的 GPU 加速服務，其中 REST API 的影像大小重建速度可比 CPU 快 5 倍。

Mesosphere 提供支援
在最新的 Tesla 加速運算平台業界支援中， Mesosphere 宣佈與 NVIDIA 合作，在 Apache Mesos 和 Mesosphere 資料中心作業系統 (DCOS)中加入 GPU 技術支援。這項合作將可讓網路服務業者更容易為新一代的應用建置和部署加速型的資料中心。

供應時程
Tesla M40 GPU 加速器和 Hyperscale 套件軟體將於今年稍晚時發行；Tesla M4 GPU 則將於2016年第一季時發行。更多資訊請至NVIDIA Tesla website.