思科推出專為企業打造的「人工智慧防禦」以協助安心開發、部署和保護 AI 應用程式

思科推出「人工智慧防禦」可有效防護 AI 濫用、資料外洩及日益複雜的威脅，並保護 AI 應用程式開發及使用，使企業得以安心推動 AI 計畫。

思科(cisco)宣布推出創新的「思科人工智慧防禦」（Cisco AI Defense）解決方案，可協助企業實現安全的 AI 轉型以及安心開發、部署和保護 AI 應用程式，以因應日新月異的安全問題和威脅。

人工智慧(AI)是近來最熱門的話題，也是許多企業想利用的技術，然而人工智慧若出現問題，可能帶來極大的風險。根據思科 2024「人工智慧準備度指數」調查，僅有33%台灣受訪企業認為自身有足夠能力偵測並防範人工智慧遭到未經授權的篡改。AI 應用往往涵蓋多模型（Multi-model）和多雲端（Multi-cloud）環境，資安也變得更為複雜。漏洞可能在模型或應用面之間發生，但責任卻分散在開發人員、終端用戶和供應商等不同角色間。當企業不再依賴公開資料，轉而運用專有資料來訓練模型時，潛在風險亦將日益增加。

思科宣布推出「思科人工智慧防禦」解決方案以協助企業推動並保護 AI 轉型

為了釋放 AI 的創新和應用潛力，企業需要通用的安全防護解決方案，全面保護用戶及應用程式。思科新推出的「思科人工智慧防禦」解決方案將可有效因應此兩大風險，並協助企業實踐 AI 轉型。

隨著人工智慧日漸普及，企業將使用並開發數百甚至數千種 AI 應用程式，此時開發人員需要適用於所有應用程式的 AI 安全防護機制。「思科人工智慧防禦」可在跨平台上防護人工智慧系統遭受攻擊，並保障模型行為的安全，確保開發人員能順利完成工作並釋放更大的價值。

「思科人工智慧防禦」擁有多種功能，包括發掘 AI 潛力、驗證模型以及安全營運。首先企業資安團隊需要了解應用程式的開發人員以及所使用的訓練資源，「思科人工智慧防禦」可有效偵測企業內外部雲端環境中未經授權或已授權的 AI 應用，並發掘人工智慧潛力。

AI 應用中，模型非常重要，而調整模型可能會導致有害或出現意外的結果，「思科人工智慧防禦」具有自動偵測功能，可檢查人工智慧模型中各種潛在安全問題。而由 AI 驅動並結合演算法技術的紅隊（Red Team），則能識別各種潛在漏洞並適時建議安全團隊採取「思科人工智慧防禦」提供的保護方案。

思科人工智慧防禦解決方案可驗證網路安全的威脅

「思科人工智慧防禦」還會持續驗證並防範潛在的安全威脅，如提示詞注入攻擊（Prompt Injection）、阻斷服務攻擊（DoS）以及機密資料外洩等，讓企業得以安全營運。

隨著終端用戶紛紛採用例如摘要等 AI 應用程式來提高生產力，安全團隊必需防止資料外洩或專有資料遭到竄改，「思科人工智慧防禦」可確保使用者安全存取 AI 應用，並為安全團隊提供數種功能。包括提供員工使用的非授權或已授權 AI 應用程式的全面可視性，並執行存取控制政策以限制員工存取未經授權的 AI 工具，同時持續防範威脅和機密資料遺失並確保符合相關法規需求。

思科人工智慧防禦（Cisco AI Defense）解決方案亦可驗證網路安全的威脅，它能針對多模型世界提供一致的控制措施並自動最佳化，與單一 AI 模型內建的安全防護機制不同。透過思科專有的機器學習模型，並根據 Cisco Talos 的威脅情報資料為基礎，偵測不斷變化的 AI 安全與防護問題。

科人工智慧防禦解決方案提供優異的可視性

使用「思科人工智慧防禦」的 Splunk 用戶可獲得來自整個生態系統並附加更多背景的增強警訊。「思科人工智慧防禦」內建於思科安全雲端中，為 AI 驅動的統一跨域安全平台，可與現有資料無縫整合而具有優異的可視性和控制能力。此解決方案更藉由思科廣泛的執行點網路（Mesh of Enforcement Points），以思科獨有的最佳化方式，在網路層實現 AI 安全執行。準確與可信度對企業保護 AI 應用極為重要，思科一直積極參與開發 AI 安全產業標準，包括協助 MITRE、OWASP 與 NIST 等組織制定相關標準。

以 AI 驅動的「思科人工智慧防禦」是「思科 Hypershield」推出後最新的安全技術，預計將於3月上市以協助企業安全實現 AI 轉型。