NVIDIA AI 安全棧為先進的代理式系統提供信任、控制和管理支持。

代理式 AI 正在重塑網絡安全格局，它帶來了全新機遇，需要我們重新審視如何保障 AI 安全，同時為應對挑戰提供關鍵路徑。

與傳統的 AI 系統不同，AI 智能體可以采取自主行動，與工具、運行環境、其他智能體和敏感數據進行交互。這為防御者創造新機會的同時，也帶來了新的風險。當前企業需要采取雙重策略：既要借助代理式 AI 構建防御體系，又要建立針對代理式 AI 的防護機制。

基于代理式 AI 建立網絡安全防御體系

由于人才短缺和警報數量不斷增加，網絡安全團隊的負擔越來越重。代理式 AI 為強化威脅檢測、響應機制和 AI 的安全防護提供了新的途徑，這就需要網絡安全生態系統實現基礎架構的革新性改變。

代理式 AI 系統具備自主感知、邏輯推理和執行能力，可以獨立解決復雜的問題。它們還可以作為網絡專家的智能協作者，保護數字資產，降低企業環境中的風險并提高安全運營中心的效率。這可以釋放網絡安全團隊的潛能，讓他們專注于高影響力的決策，擴展專業知識，同時有效緩解安全團隊員工的倦怠感。

以漏洞響應為例，AI 智能體可以在數秒內偵察到新的常見漏洞或暴露的風險，從而縮短應對軟件安全漏洞所需的時間。AI 智能體可以搜索外部資源、評估環境并對相應結果進行總結和排序，以便人類分析師能夠迅速采取明智的行動。

德勤等領先企業正在采用NVIDIA AI Blueprint進行漏洞分析，并通過NVIDIA NIM和NVIDIA Morpheus來幫助他們的客戶加速軟件補丁部署和漏洞管理。亞馬遜云科技還與 NVIDIA 協作，使用 NVIDIA AI Blueprint 構建開源參考架構，在亞馬遜云科技的云環境中進行軟件安全修補。

AI 智能體還可以改進安全警報分流。大多數安全運營中心每天都要面對大量的警報，而從噪音中分揀關鍵信號的過程緩慢、重復，并且依賴于機構知識和經驗。

包括 CrowdStrike 和 Trend Micro 在內的領先安全提供商正在使用 NVIDIA AI 軟件來推進網絡安全領域的代理式 AI。CrowdStrike 的 Charlotte AI Detection Triage 可將檢測分類速度翻倍，而計算量減少 50%，降低了警報疲勞并且優化了安全運營中心的效率。

代理系統可幫助實時加快整個工作流，分析警報、從工具中收集上下文、對根本原因進行邏輯推理，并根據洞察采取行動。

它們甚至可以從經驗豐富的分析師那里獲取專業知識，并將其轉化為行動，從而幫助新晉分析師上崗。

企業可以使用AI-Q NVIDIA Blueprint（用于將 AI 智能體連接到企業數據）和NVIDIA Agent Intelligence 工具包（一個可加速 AI 智能體開發并優化工作流的開源庫）來構建警報分流智能體。

保護代理式 AI 應用

代理式 AI 系統不僅能分析信息，還能對其進行邏輯推理并采取行動。這就帶來了新的安全挑戰：智能體可能會訪問工具、生成觸發下游效應的輸出或實時與敏感數據交互。為了確保它們的行為安全且可預測，企業需要部署前測試和運行時控制。

紅色團隊 (Red teaming) 和測試有助于在投產前發現智能體在理解提示、使用工具或處理意外輸入方面的弱點。這還包括探查智能體在遵循約束、從故障中恢復，以及防御操縱性或對抗性攻擊方面的能力。

大語言模型漏洞掃描器 Garak 可通過模擬對抗行為（如提示注入、工具濫用和邏輯推理錯誤）對基于大語言模型的智能體進行自動測試。

運行時護欄提供了一種執行策略邊界、限制不安全行為，以及使智能體輸出與企業目標迅速保持一致的方法。NVIDIA NeMo Guardrails可幫助開發人員輕松定義、部署和快速更新規則，管理 AI 智能體的言行。這種低成本、低投入的適應性可確保在檢測到問題時做出快速有效的響應，保持智能體行為的一致性以及在生產中的安全性。

Amdocs、Cerence AI 、Palo Alto Networks 等領先企業正在使用 NVIDIA NeMo Guardrails 為其客戶提供可信任的代理式體驗。

運行時保護 (Runtime protections) 有助于在執行過程中保護敏感數據和智能體行為，確保操作的安全性和可信度。NVIDIA 機密計算 (NVIDIA Confidential Computing)可以在運行時保護正在處理的數據，也稱為保護“使用中的數據”，這降低了各種規模的 AI 模型在訓練和推理過程中數據暴露的風險。

NVIDIA 機密計算由全球主要服務提供商提供，包括谷歌云和微軟 Azure，其他云服務提供商也將陸續提供。

任何代理式 AI 應用的基礎都是一套用于構建推理堆棧的軟件工具、庫和服務。NVIDIA AI Enterprise軟件平臺采用軟件生命周期流程，在保持應用編程接口 (API) 穩定性的同時，還能在軟件的整個生命周期內解決漏洞問題，包括定期進行代碼掃描以及及時發布安全補丁或緩解措施。

供應鏈中 AI 組件的真實性和完整性對于擴展代理式 AI 系統的信任度至關重要。NVIDIA AI Enterprise 軟件棧包含容器簽名、模型簽名和軟件物料清單，以便對這些組件進行驗證。

這些技術中的每一項都提供了多層級的安全性防護，以保護從本地部署到云端等多種部署環境中的關鍵數據和寶貴模型。

保障代理基礎設施安全

隨著代理式 AI 系統自主化程度逐漸提升并深度融入企業工作流，其底層基礎設施成為安全問題的核心要素。無論是部署在數據中心、邊緣還是生產車間，代理式 AI 都需要設計支持隔離機制、可視化和控制能力的基礎設施。

從設計層面看，代理式系統的運行具有高度自主性，能夠執行具有重大影響力的操作，這些操作既可能帶來益處，也可能引發潛在風險。這種自主性要求保護運行時工作負載、實施操作監控并嚴格執行零信任原則，以此有效保障這些系統的安全。

NVIDIA BlueField DPU與NVIDIA DOCA Argus相結合，提供了一個可以使應用全面、實時地了解智能體工作負載行為的框架，并通過高級內存取證技術精準識別威脅。將安全控制直接部署到 BlueField DPU 而非服務器 CPU 上，可進一步隔離基礎設施層面的威脅，大幅縮小潛在攻擊的波及范圍，增強全面的、無處不在的安全架構。

集成商還使用 NVIDIA 機密計算來加強代理式基礎設施的安全基礎。例如，EQTYLab 開發了一種新的加密證書系統，該系統提供了首個芯片級治理功能，可確保 AI 智能體在運行時合規。EQTYLab將作為 RSA 創新沙盒 (RSA Innovation Sandbox) 大賽十大入圍者之一在 RSA 大會上亮相。

NVIDIA Hopper和NVIDIA Blackwell GPU支持 NVIDIA 機密計算，因此當用戶從單 GPU 轉向多 GPU 時，隔離技術可以擴展到機密虛擬機。

安全 AI 由 Protected PCIe (PPCIe) 提供，以 NVIDIA 機密計算為基礎，允許客戶將工作負載從單個 GPU 擴展到 8 個 GPU，這使企業能夠在滿足其代理式 AI 需求的同時，以更高效的方式提供安全保護。

這些基礎設施組件支持本地和遠程驗證，使客戶能夠在部署敏感工作負載之前驗證平臺的完整性。

這些安全功能在像 AI 工廠一樣的環境中尤為重要。在這些環境中，代理式系統開始為自動化、監測和實際決策提供支持。Cisco 通過集成 NVIDIA BlueField DPU，開創了安全的 AI 基礎設施，在 NVIDIA 的助力下構建了“Cisco 安全 AI 工廠”，旨在為企業提供可擴展、安全和高效的 AI 部署。

將代理式 AI 擴展到網絡物理系統會增加風險，因為安全漏洞會直接影響正常運行時間、安全性和物理操作的完整性。Armis、Check Point、CrowdStrike、德勤、Forescout、Nozomi Networks 和 World Wide Technology 等領先的合作伙伴正在整合 NVIDIA 的全棧網絡安全 AI 技術，幫助能源、公共事業、制造設施等多個行業的客戶加強關鍵基礎設施，抵御網絡威脅。

構建可信的 AI 行動

如今，每個企業都需要確保其網絡安全投資與 AI 相結合，以保護未來的工作流安全。每個工作負載都需要全面加速，最終使防御者獲得與 AI 節奏同步的工具。

NVIDIA 正在將 AI 和安全能力融合至技術基座，為生態系統合作伙伴提供由 AI 驅動的網絡安全解決方案。這個全新的生態系統將幫助企業構建安全、可擴展的代理式 AI 系統。