NVIDIA AI 安全棧為先進(jìn)的代理式系統(tǒng)提供信任、控制和管理支持。

代理式 AI 正在重塑網(wǎng)絡(luò)安全格局，它帶來(lái)了全新機(jī)遇，需要我們重新審視如何保障 AI 安全，同時(shí)為應(yīng)對(duì)挑戰(zhàn)提供關(guān)鍵路徑。

與傳統(tǒng)的 AI 系統(tǒng)不同，AI 智能體可以采取自主行動(dòng)，與工具、運(yùn)行環(huán)境、其他智能體和敏感數(shù)據(jù)進(jìn)行交互。這為防御者創(chuàng)造新機(jī)會(huì)的同時(shí)，也帶來(lái)了新的風(fēng)險(xiǎn)。當(dāng)前企業(yè)需要采取雙重策略：既要借助代理式 AI 構(gòu)建防御體系，又要建立針對(duì)代理式 AI 的防護(hù)機(jī)制。

基于代理式 AI 建立網(wǎng)絡(luò)安全防御體系

由于人才短缺和警報(bào)數(shù)量不斷增加，網(wǎng)絡(luò)安全團(tuán)隊(duì)的負(fù)擔(dān)越來(lái)越重。代理式 AI 為強(qiáng)化威脅檢測(cè)、響應(yīng)機(jī)制和 AI 的安全防護(hù)提供了新的途徑，這就需要網(wǎng)絡(luò)安全生態(tài)系統(tǒng)實(shí)現(xiàn)基礎(chǔ)架構(gòu)的革新性改變。

代理式 AI 系統(tǒng)具備自主感知、邏輯推理和執(zhí)行能力，可以獨(dú)立解決復(fù)雜的問(wèn)題。它們還可以作為網(wǎng)絡(luò)專(zhuān)家的智能協(xié)作者，保護(hù)數(shù)字資產(chǎn)，降低企業(yè)環(huán)境中的風(fēng)險(xiǎn)并提高安全運(yùn)營(yíng)中心的效率。這可以釋放網(wǎng)絡(luò)安全團(tuán)隊(duì)的潛能，讓他們專(zhuān)注于高影響力的決策，擴(kuò)展專(zhuān)業(yè)知識(shí)，同時(shí)有效緩解安全團(tuán)隊(duì)員工的倦怠感。

以漏洞響應(yīng)為例，AI 智能體可以在數(shù)秒內(nèi)偵察到新的常見(jiàn)漏洞或暴露的風(fēng)險(xiǎn)，從而縮短應(yīng)對(duì)軟件安全漏洞所需的時(shí)間。AI 智能體可以搜索外部資源、評(píng)估環(huán)境并對(duì)相應(yīng)結(jié)果進(jìn)行總結(jié)和排序，以便人類(lèi)分析師能夠迅速采取明智的行動(dòng)。

德勤等領(lǐng)先企業(yè)正在采用NVIDIA AI Blueprint進(jìn)行漏洞分析，并通過(guò)NVIDIA NIM和NVIDIA Morpheus來(lái)幫助他們的客戶(hù)加速軟件補(bǔ)丁部署和漏洞管理。亞馬遜云科技還與 NVIDIA 協(xié)作，使用 NVIDIA AI Blueprint 構(gòu)建開(kāi)源參考架構(gòu)，在亞馬遜云科技的云環(huán)境中進(jìn)行軟件安全修補(bǔ)。

AI 智能體還可以改進(jìn)安全警報(bào)分流。大多數(shù)安全運(yùn)營(yíng)中心每天都要面對(duì)大量的警報(bào)，而從噪音中分揀關(guān)鍵信號(hào)的過(guò)程緩慢、重復(fù)，并且依賴(lài)于機(jī)構(gòu)知識(shí)和經(jīng)驗(yàn)。

包括 CrowdStrike 和 Trend Micro 在內(nèi)的領(lǐng)先安全提供商正在使用 NVIDIA AI 軟件來(lái)推進(jìn)網(wǎng)絡(luò)安全領(lǐng)域的代理式 AI。CrowdStrike 的 Charlotte AI Detection Triage 可將檢測(cè)分類(lèi)速度翻倍，而計(jì)算量減少 50%，降低了警報(bào)疲勞并且優(yōu)化了安全運(yùn)營(yíng)中心的效率。

代理系統(tǒng)可幫助實(shí)時(shí)加快整個(gè)工作流，分析警報(bào)、從工具中收集上下文、對(duì)根本原因進(jìn)行邏輯推理，并根據(jù)洞察采取行動(dòng)。

它們甚至可以從經(jīng)驗(yàn)豐富的分析師那里獲取專(zhuān)業(yè)知識(shí)，并將其轉(zhuǎn)化為行動(dòng)，從而幫助新晉分析師上崗。

企業(yè)可以使用AI-Q NVIDIA Blueprint（用于將 AI 智能體連接到企業(yè)數(shù)據(jù)）和NVIDIA Agent Intelligence 工具包（一個(gè)可加速 AI 智能體開(kāi)發(fā)并優(yōu)化工作流的開(kāi)源庫(kù)）來(lái)構(gòu)建警報(bào)分流智能體。

保護(hù)代理式 AI 應(yīng)用

代理式 AI 系統(tǒng)不僅能分析信息，還能對(duì)其進(jìn)行邏輯推理并采取行動(dòng)。這就帶來(lái)了新的安全挑戰(zhàn)：智能體可能會(huì)訪(fǎng)問(wèn)工具、生成觸發(fā)下游效應(yīng)的輸出或?qū)崟r(shí)與敏感數(shù)據(jù)交互。為了確保它們的行為安全且可預(yù)測(cè)，企業(yè)需要部署前測(cè)試和運(yùn)行時(shí)控制。

紅色團(tuán)隊(duì) (Red teaming) 和測(cè)試有助于在投產(chǎn)前發(fā)現(xiàn)智能體在理解提示、使用工具或處理意外輸入方面的弱點(diǎn)。這還包括探查智能體在遵循約束、從故障中恢復(fù)，以及防御操縱性或?qū)剐怨舴矫娴哪芰Α?/p>

大語(yǔ)言模型漏洞掃描器 Garak 可通過(guò)模擬對(duì)抗行為（如提示注入、工具濫用和邏輯推理錯(cuò)誤）對(duì)基于大語(yǔ)言模型的智能體進(jìn)行自動(dòng)測(cè)試。

運(yùn)行時(shí)護(hù)欄提供了一種執(zhí)行策略邊界、限制不安全行為，以及使智能體輸出與企業(yè)目標(biāo)迅速保持一致的方法。NVIDIA NeMo Guardrails可幫助開(kāi)發(fā)人員輕松定義、部署和快速更新規(guī)則，管理 AI 智能體的言行。這種低成本、低投入的適應(yīng)性可確保在檢測(cè)到問(wèn)題時(shí)做出快速有效的響應(yīng)，保持智能體行為的一致性以及在生產(chǎn)中的安全性。

Amdocs、Cerence AI 、Palo Alto Networks 等領(lǐng)先企業(yè)正在使用 NVIDIA NeMo Guardrails 為其客戶(hù)提供可信任的代理式體驗(yàn)。

運(yùn)行時(shí)保護(hù) (Runtime protections) 有助于在執(zhí)行過(guò)程中保護(hù)敏感數(shù)據(jù)和智能體行為，確保操作的安全性和可信度。NVIDIA 機(jī)密計(jì)算 (NVIDIA Confidential Computing)可以在運(yùn)行時(shí)保護(hù)正在處理的數(shù)據(jù)，也稱(chēng)為保護(hù)“使用中的數(shù)據(jù)”，這降低了各種規(guī)模的 AI 模型在訓(xùn)練和推理過(guò)程中數(shù)據(jù)暴露的風(fēng)險(xiǎn)。

NVIDIA 機(jī)密計(jì)算由全球主要服務(wù)提供商提供，包括谷歌云和微軟 Azure，其他云服務(wù)提供商也將陸續(xù)提供。

任何代理式 AI 應(yīng)用的基礎(chǔ)都是一套用于構(gòu)建推理堆棧的軟件工具、庫(kù)和服務(wù)。NVIDIA AI Enterprise軟件平臺(tái)采用軟件生命周期流程，在保持應(yīng)用編程接口 (API) 穩(wěn)定性的同時(shí)，還能在軟件的整個(gè)生命周期內(nèi)解決漏洞問(wèn)題，包括定期進(jìn)行代碼掃描以及及時(shí)發(fā)布安全補(bǔ)丁或緩解措施。

供應(yīng)鏈中 AI 組件的真實(shí)性和完整性對(duì)于擴(kuò)展代理式 AI 系統(tǒng)的信任度至關(guān)重要。NVIDIA AI Enterprise 軟件棧包含容器簽名、模型簽名和軟件物料清單，以便對(duì)這些組件進(jìn)行驗(yàn)證。

這些技術(shù)中的每一項(xiàng)都提供了多層級(jí)的安全性防護(hù)，以保護(hù)從本地部署到云端等多種部署環(huán)境中的關(guān)鍵數(shù)據(jù)和寶貴模型。

保障代理基礎(chǔ)設(shè)施安全

隨著代理式 AI 系統(tǒng)自主化程度逐漸提升并深度融入企業(yè)工作流，其底層基礎(chǔ)設(shè)施成為安全問(wèn)題的核心要素。無(wú)論是部署在數(shù)據(jù)中心、邊緣還是生產(chǎn)車(chē)間，代理式 AI 都需要設(shè)計(jì)支持隔離機(jī)制、可視化和控制能力的基礎(chǔ)設(shè)施。

從設(shè)計(jì)層面看，代理式系統(tǒng)的運(yùn)行具有高度自主性，能夠執(zhí)行具有重大影響力的操作，這些操作既可能帶來(lái)益處，也可能引發(fā)潛在風(fēng)險(xiǎn)。這種自主性要求保護(hù)運(yùn)行時(shí)工作負(fù)載、實(shí)施操作監(jiān)控并嚴(yán)格執(zhí)行零信任原則，以此有效保障這些系統(tǒng)的安全。

NVIDIA BlueField DPU與NVIDIA DOCA Argus相結(jié)合，提供了一個(gè)可以使應(yīng)用全面、實(shí)時(shí)地了解智能體工作負(fù)載行為的框架，并通過(guò)高級(jí)內(nèi)存取證技術(shù)精準(zhǔn)識(shí)別威脅。將安全控制直接部署到 BlueField DPU 而非服務(wù)器 CPU 上，可進(jìn)一步隔離基礎(chǔ)設(shè)施層面的威脅，大幅縮小潛在攻擊的波及范圍，增強(qiáng)全面的、無(wú)處不在的安全架構(gòu)。

集成商還使用 NVIDIA 機(jī)密計(jì)算來(lái)加強(qiáng)代理式基礎(chǔ)設(shè)施的安全基礎(chǔ)。例如，EQTYLab 開(kāi)發(fā)了一種新的加密證書(shū)系統(tǒng)，該系統(tǒng)提供了首個(gè)芯片級(jí)治理功能，可確保 AI 智能體在運(yùn)行時(shí)合規(guī)。EQTYLab將作為 RSA 創(chuàng)新沙盒 (RSA Innovation Sandbox) 大賽十大入圍者之一在 RSA 大會(huì)上亮相。

NVIDIA Hopper和NVIDIA Blackwell GPU支持 NVIDIA 機(jī)密計(jì)算，因此當(dāng)用戶(hù)從單 GPU 轉(zhuǎn)向多 GPU 時(shí)，隔離技術(shù)可以擴(kuò)展到機(jī)密虛擬機(jī)。

安全 AI 由 Protected PCIe (PPCIe) 提供，以 NVIDIA 機(jī)密計(jì)算為基礎(chǔ)，允許客戶(hù)將工作負(fù)載從單個(gè) GPU 擴(kuò)展到 8 個(gè) GPU，這使企業(yè)能夠在滿(mǎn)足其代理式 AI 需求的同時(shí)，以更高效的方式提供安全保護(hù)。

這些基礎(chǔ)設(shè)施組件支持本地和遠(yuǎn)程驗(yàn)證，使客戶(hù)能夠在部署敏感工作負(fù)載之前驗(yàn)證平臺(tái)的完整性。

這些安全功能在像 AI 工廠(chǎng)一樣的環(huán)境中尤為重要。在這些環(huán)境中，代理式系統(tǒng)開(kāi)始為自動(dòng)化、監(jiān)測(cè)和實(shí)際決策提供支持。Cisco 通過(guò)集成 NVIDIA BlueField DPU，開(kāi)創(chuàng)了安全的 AI 基礎(chǔ)設(shè)施，在 NVIDIA 的助力下構(gòu)建了“Cisco 安全 AI 工廠(chǎng)”，旨在為企業(yè)提供可擴(kuò)展、安全和高效的 AI 部署。

將代理式 AI 擴(kuò)展到網(wǎng)絡(luò)物理系統(tǒng)會(huì)增加風(fēng)險(xiǎn)，因?yàn)榘踩┒磿?huì)直接影響正常運(yùn)行時(shí)間、安全性和物理操作的完整性。Armis、Check Point、CrowdStrike、德勤、Forescout、Nozomi Networks 和 World Wide Technology 等領(lǐng)先的合作伙伴正在整合 NVIDIA 的全棧網(wǎng)絡(luò)安全 AI 技術(shù)，幫助能源、公共事業(yè)、制造設(shè)施等多個(gè)行業(yè)的客戶(hù)加強(qiáng)關(guān)鍵基礎(chǔ)設(shè)施，抵御網(wǎng)絡(luò)威脅。

構(gòu)建可信的 AI 行動(dòng)

如今，每個(gè)企業(yè)都需要確保其網(wǎng)絡(luò)安全投資與 AI 相結(jié)合，以保護(hù)未來(lái)的工作流安全。每個(gè)工作負(fù)載都需要全面加速，最終使防御者獲得與 AI 節(jié)奏同步的工具。

NVIDIA 正在將 AI 和安全能力融合至技術(shù)基座，為生態(tài)系統(tǒng)合作伙伴提供由 AI 驅(qū)動(dòng)的網(wǎng)絡(luò)安全解決方案。這個(gè)全新的生態(tài)系統(tǒng)將幫助企業(yè)構(gòu)建安全、可擴(kuò)展的代理式 AI 系統(tǒng)。