記者會

Nutanix 推出全新 Nutanix Enterprise AI 實現隨處可用的代理型 AI

Nutanix 宣布最新版 Nutanix Enterprise AI 解決方案正式上市,深度整合 NVIDIA NIM 微服務和 NVIDIA NeMo 框架,加速企業部署代理型 AI 應用程式。

在 AI 時代下,企業從資料中心到邊緣裝置都要部署 AI 解決方案,以加速生產及提升經營效率。Nutanix 宣布推出最新版 Nutanix Enterprise AI(NAI)解決方案,緊密整合 NVIDIA AI Enterprise 系統,包括 NVIDIA NIM 微服務和 NVIDIA NeMo 框架,以加速企業部署代理型 AI 應用程式。


(左起)一卡通公司技術副總經理闕大順、Nutanix 亞太及日本地區副總裁暨總經理 Jay Tuseth、台灣總經理劉國龍、全球技術資深副總裁 Mike Phelan

NAI 是專為加速企業導入生成式 AI 設計,讓客戶能輕鬆於邊緣、資料中心和所有被雲端原生運算基金會(CNCF)認證的 Kubernetes 公有雲環境中,建置、執行和安全管理模型及推論服務。


Nutanix Enterprise AI 解決方案加速企業部署代理型 AI 應用程式

新版本的 NAI 擴展共享模型服務,簡化代理型 AI 的工作流程,讓部署和日常營運更簡單。它還整合部署多個跨業務部門應用所需的資源和模型,為 Agent 提供一套安全且通用,具備可嵌入、重新排序和防護功能的模型。這些功能都以 NAI 做為核心基礎,包括集中式 LLM 模型儲存庫,能建立安全端點,使生成式 AI 應用程式和 Agent 之間連接變得更簡單且安全。


NAI 讓企業運用自己的資料部署 AI 更簡單

新版 NAI 的代理型應用程式可協助客戶透過共享 LLM 端點部署代理型 AI 應用程式,將現有已部署的模型端點成為多個應用程式服務。重複使用模型端點有助於減少使用關鍵基礎架構元件,包括 GPU、CPU、記憶體、檔案和物件儲存以及 Kubernetes 叢集。

NAI 支援多種代理型模型服務,包括 NVIDIA Llama Nemotron 開放推理模型、NVIDIA NeMo Retriever 和 NeMo Guardrails。NAI 使用者可以利用 NVIDIA AI Blueprints(預先定義的可自訂工作流程),快速啟動自有的 AI 應用程式,更充分的運用 NVIDIA 模型和 AI 微服務。NAI 還支援函數呼叫,協助 AI 代理型應用程式配置和使用外部資料來源提供更準確和詳細的結果。

新版 NAI 可協助客戶使用防護模型,在符合企業內部政策下執行代理型應用程式。這些模型可過濾初始使用者查詢和 LLM 回應,以防止偏頗或惡意的輸出內容,同時還可控制主題以及偵測嘗試越獄,例如 NVIDIA NeMo Guardrails 是可過濾內容的 LLM,包括不需要的內容和其他敏感主題。這些功能也可應用於產生程式碼,在各模型之間提供更高的可靠性和一致性。


Nutanix Cloud Platform 單一平台可隨處支援所有應用程式及資料

由於 Nutanix 雲端平台解決方案建立在 NVIDIA AI 資料平台參考設計上,並整合 Nutanix Unified Storage 和Nutanix Database Service 解決方案,可用於處理 AI 的非結構化和結構化資料。Nutanix 雲端基礎架構平台還能為 NVIDIA 的加速運算、網路和 AI 軟體提供私有基礎環境,協助企業將資料轉化為可行動的洞察。

作為 NVIDIA 認證企業儲存解決方案,Nutanix Unified Storage 符合嚴格的效能和可擴展性標準,透過 NVIDIA GPUDirect Storage 等功能為企業 AI 工作負載提供軟體定義儲存。

NAI 可靈活運用多項 Nutanix 平台服務,同時能在超融合基礎架構(HCI)、伺服器和雲端 IaaS 上靈活部署。NAI 客戶還可利用 Nutanix Kubernetes Platform 解決方案集中管理多雲的容器化雲端原生應用程式以及 Nutanix Unified Storage(NUS)和 Nutanix Database Service(NDB)作為離散資料服務,為代理型 AI 應用程式提供完整的平台。

延伸影片閱讀:  
Previous post

AMD Ryzen 9000G系列APU果然沒讓我們失望 真的有更強版本

Next post

聯名快閃開幕派對揭曉 AK Mod 改裝機與設計理念解析

The Author

Kenny Kuan

Kenny Kuan

在科技媒體多年,為Xfastest News網站科技產品發表會或是記者會採訪記者,也是Xfastest採訪文撰寫編輯。