作者：盧·阿德西達（LouAdesida）


隨著AI應用進入規?；渴穑瑪祿孤丁⑻崾咀⑷牍艉?a target="_blank">智能體失控等風險，正威脅著企業的數字化轉型。在微軟Build 2025大會上，微軟宣布通過Microsoft Azure AI Foundry(國際版)、Microsoft Purview與Microsoft Defender的深度協同，構建覆蓋開發、部署、運維全流程的智能體防護體系，為企業的智能化轉型保駕護航。

AI 技術領域的創新正以前所未有的速度發展，越來越多的 AI 應用項目正從實驗階段轉向部署階段，以推動切實的業務影響。隨著組織通過自定義 AI 應用和智能體加速創新，新的風險也出現在軟件開發生命周期和 AI 技術棧中，涉及數據過度共享與泄露、新型漏洞與威脅，以及嚴格的監管合規要求。

到了2025年，針對企業 AI 應用的惡意攻擊中，軟件供應鏈和基礎設施技術棧投毒的占比將超過70%1，這凸顯了開發早期階段可能存在的威脅。當前數據泄露的平均成本為488萬美元，但如果能在開發過程中早期發現安全問題，這一數字可大幅降至每起事件80美元2。

信息非常明確：安全問題不能事后考慮。它必須成為整個組織的團隊協作，從開始就嵌入并貫穿整個開發生命周期。因此，開發者和安全團隊需要在流程和工具上達成一致，將安全融入 AI 技術開發生命周期的每個階段，并為安全從業者提供風險可見性和緩解能力。

為了應對這些日益增長的挑戰，并幫助客戶在開發與安全團隊間保護、治理 AI 技術工作負載，微軟正在：

賦能 Microsoft Azure AI Foundry (國際版)和 Microsoft Copilot Studio ，提供業界領先的基礎能力以保護和管理 AI 技術工作負載；

將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業領先功能，深度集成并嵌入到 Microsoft Azure AI Foundry (國際版) 和 Microsoft Copilot Studio 中；

近期，3,000名開發者齊聚西雅圖參加年度微軟Build大會，還有更多開發人員在線參與學習，從而快速掌握 AI 應用和智能體創新的實用技能。為了支持他們的 AI 技術創新之旅，我們很高興宣布多項新功能，幫助開發者和組織來保護及治理 AI 應用與智能體。

01

Microsoft Azure AI Foundry (國際版)

新基礎能力：構建 AI 技術工作

負載的全生命周期防護

01|AI安全與防護增強：主動防御體系升級

Microsoft Azure AI Foundry (國際版)已服務70,000家客戶，本季度處理100萬億個token 并支持每日20億次企業搜索查詢。它已從單一應用層發展為綜合性平臺，支持構建具備規劃、執行和學習能力的智能體，以達成實際業務目標。

為助力組織安全構建和部署 AI 應用，我們為 Microsoft Azure AI Foundry (國際版)開發者推出以下新防護能力：

?聚光功能（ Spotlighting ）：實時檢測并阻斷提示注入攻擊

隨著 AI 技術系統更多依賴外部數據源，間接提示注入攻擊這類新型威脅已開始出現。此類攻擊通過在文檔、電子郵件和網頁中嵌入隱藏指令，誘使模型在無用戶直接輸入時執行未授權操作。傳統過濾手段難以有效防御。

Microsoft Azure AI 內容安全現推出聚光功能（預覽版），通過增強提示防護欄（Prompt Shields）的能力，檢測并阻斷潛在間接提示注入攻擊，防止模型執行隱蔽惡意指令。

▲在 Microsoft Azure AI Content Safety 中啟用聚光功能，以檢測潛在的間接提示注入攻擊。

?智能體任務遵從性（預覽版）：確保智能體在既定范圍內運作

隨著開發者構建更強大的智能體，組織面臨越來越大的壓力來確保這些智能體在定義的指令和政策邊界內運作。即使微小偏差也可能導致工具誤用、工作流中斷或敏感數據意外暴露等風險。為此，Microsoft Azure AI Foundry (國際版)現包含智能體任務遵從性（預覽版），由兩個組件驅動：實時評估和 Microsoft Azure AI Content Safety 中的新控制項。

Microsoft Azure AI Content Safety 中的實時任務遵從性評估 API是核心。該 API 通過分析用戶查詢、系統指令、計劃工具調用和智能體響應，評估智能體行為是否符合分配任務。評估框架基于微軟智能體評估器構建，可測量意圖解析度、工具選擇準確性、響應完整性和對原始請求的整體符合性。開發者可使用 Microsoft Azure AI 評估 SDK 中的任務遵從性評估器在本地運行評分邏輯，采用從完全不符合到完全符合的五級評分。這為團隊提供了靈活透明的方式，在問題影響下游前檢查任務級行為。

任務遵從性通過 Microsoft Azure AI Content Safety中的新控制項執行。如果智能體偏離任務，控制項可阻止工具使用、暫停執行或觸發人工審核。在 Microsoft Azure AI 智能體服務中，該功能作為可選功能自動運行。結合實時評估，該控制項幫助確保智能體保持任務專注、遵循指令并按企業政策運作。

? 持續評估與監控：部署后智能體健康度實時追蹤

在部署后保持 AI 智能體的高性能和合規性，是一項日益嚴峻的挑戰。如果缺乏持續的監督，性能下降、安全風險或資源無意濫用等問題可能會被忽視。

Microsoft Azure AI Foundry (國際版)推出的智能體系統持續評估和監控（預覽版），通過統一儀表板實時跟蹤性能、質量、安全性和資源使用等關鍵指標。持續評估以生產使用量的抽樣率運行質量和安全評估，結果在 Microsoft Azure AI Foundry (國際版)監控儀表板顯示并發布至 Application Insights 。開發者可設置警報檢測漂移或回歸，并使用 Microsoft Azure Monitor 獲得 AI 技術系統的全?？梢娦浴?/p>

例如，使用 AI 智能體處理客戶任務的組織可監控數據真實性，當智能體開始引用無關信息時檢測質量下降，幫助團隊在影響用戶信任前采取行動。

02 | 合規評估自動化：與 Purview / CredoAI / Saidot的深度集成

AI 技術法規和標準對高風險 AI 技術系統提出了透明度、文檔管理和風險管理的新要求。開發者在構建 AI 應用和智能體時，可能需要基于這些要求的風險評估指導工具，并與合規和風險團隊無縫共享控制及評估洞察。

今天，我們宣布 Microsoft Azure AI Foundry (國際版)評估工具與合規管理解決方案Microsoft Purview 合規管理器及 AI 治理解決方案CredoAI和Saidot的集成預覽。這些集成幫助定義風險參數、運行建議的合規評估，并為控制測試和審計收集證據。

例如，在歐洲構建 AI 智能體的開發者，可能需要合規團隊完成數據保護影響評估（DPIA）和算法影響評估（AIA），以滿足內部風險管理和技術文檔要求?；?Microsoft Purview 合規管理器的分步控制實施和測試指南，合規團隊可評估潛在偏見、網絡安全漏洞或模型行為缺乏透明度等風險。

在 Microsoft Azure AI Foundry (國際版)完成評估后，開發者可獲得記錄風險、緩解措施和剩余風險的報告，供合規團隊上傳至合規管理器以支持審計并向監管機構或外部利益相關方提供證據。

▲根據新興AI技術治理標準評估 Microsoft Azure AI Foundry (國際版)的控制措施。

02

微軟安全能力擴展：

為 AI 應用注入企業級控制

01|智能體身份治理：Microsoft Entra Agent ID 解決身份泛濫難題

組織正快速構建自有 AI 智能體，導致智能體泛濫和集中化管理缺失。安全團隊常疲于應對，無法掌握現有智能體及其引入的安全或合規風險。如果沒有適當的監督，智能體會擴大攻擊面并增加非人類身份管理難度。

為此，我們宣布推出Microsoft Entra Agent ID（公開預覽版），這是 Microsoft Entra管理中心的新功能，讓安全管理員對 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構建的 AI 智能體獲得可見性和控制權。通過該功能，Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國際版)創建的智能體將自動分配身份，無需開發者額外工作。這是管理保護非人類身份的長期計劃的第一步。

▲安全與身份管理員可在 Microsoft Entra 管理中心

查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構建的 AI 智能體。

這項新功能為即將登陸 Microsoft Entra 的進階能力奠定了基礎。

我們深知，安全防護從來不是單打獨斗。在保護 AI 智能體及其身份的新時代，協同合作尤為重要。兩周前，我們宣布支持 Agent-to-Agent（A2A）協議，并開始與合作伙伴共同塑造 AI 身份工作流的未來。

我們更欣喜地宣布與 ServiceNow 和 Workday 達成全新合作。通過將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺及 Workday 智能體記錄系統集成，未來可實現數字化員工身份的自動化配置。

02|威脅防護直通開發流程： Microsoft Defender 安全警報和建議已無縫集成至Microsoft Azure AI Foundry (國際版)

隨著更多 AI 應用部署至生產環境，組織需要通過原生集成的安全控制措施來預測和防止潛在的 AI 技術威脅，這些控制由行業領先的生成式 AI 和威脅情報支持。開發者需要安全團隊的關鍵信號，以有效緩解 AI 應用部署相關風險。

當這些信號存在于開發者體驗之外的獨立系統時，可能導致緩解延遲，使 AI 應用和智能體成為負擔，并暴露組織于各種威脅和違規風險。

Microsoft Defender for Cloud（預覽版）能夠直接將 AI 技術安全態勢管理建議和運行時威脅防護警報，集成至 Microsoft Azure AI Foundry (國際版)門戶中。

這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分，現已原生擴展至 Microsoft Azure AI Foundry (國際版)中，使開發者無需離開工作流即可訪問警報和建議，實時查看安全風險、錯誤配置和針對特定 Microsoft Azure AI 項目的主動威脅，無需切換工具或等待安全團隊提供詳細信息。

Microsoft Defender for Cloud 的安全洞察幫助開發者識別和應對越獄攻擊、敏感數據泄露和系統資源濫用等威脅，包括：

AI 技術安全態勢建議：識別 AI 技術服務中的錯誤配置和漏洞并提供降險最佳實踐

AI 技術服務威脅防護警報：通知開發者主動威脅并提供緩解指導，覆蓋超過15種檢測類型

例如，構建 AI 智能體的開發者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務資源，通過 Microsoft Azure 主干網絡處理連接以降低數據泄露風險。每個建議包含可操作的修復步驟，幫助團隊在部署前后階段識別和緩解風險。這有助于在不減慢創新速度的情況下，顯著降低風險。

▲ 開發者可在 Microsoft Azure AI Foundry (國際版)的"風險+警報"頁面查看安全警報。

▲開發者可在 Microsoft Azure AI Foundry (國際版)的"防護欄+控制"頁面查看建議。

該集成目前為預覽版，將于2025年6月在 Microsoft Azure AI Foundry (國際版)全面上市。

03

Microsoft Purview數據安全擴展：保護和管理自定義 AI 應用

與智能體中的數據

數據過度共享和泄露，是 AI 技術采用的主要擔憂，也是許多監管要求的核心。為了讓組織自信地部署 AI 應用和智能體，低代碼和專業開發者都需要將安全合規控制無縫嵌入 AI 技術創作中。如果沒有簡單、對開發人員友好的解決方案，安全漏洞很快就會成為阻礙因素，從而在應用程序從開發轉移到生產環境時延遲部署并增加風險。

如今，Microsoft Purview 正在擴展其企業級數據安全與合規能力，使低代碼和專業開發者都能更輕松地將數據安全和合規集成到他們的 AI 應用程序和智能體中，無論他們使用何種工具或平臺。

例如，通過本次更新，Microsoft Purview DSPM for AI 成為數據安全團隊可以查看所有數據風險洞察的一站式平臺，涵蓋智能Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構建的智能體，以及在 Microsoft Azure AI Foundry (國際版)和其他平臺上構建的自定義 AI 應用和智能體。管理員可以輕松深入地查看特定 AI 應用或智能體的安全和合規洞察，從而更輕松地調查潛在風險并采取行動。

▲數據安全管理員現在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構建的智能體，以及自定義 AI 應用和智能體的數據安全與合規洞察。

在以下部分，我們將詳細介紹 Microsoft Purview 在各種 AI 技術工作負載中的能力更新。

01|Microsoft Purview 數據安全與合規控制，現在可以通過新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國際版)的原生集成，擴展到任何自定義構建的 AI 應用程序和智能體中。

這些新功能使安全團隊能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業級數據安全合規控制，擴展到自定義 AI 應用程序和智能體，從而使組織能夠：

在 Microsoft Purview AI 數據安全態勢管理 (DSPM)中，發現數據安全風險（例如用戶提示中的敏感數據）和數據合規風險（例如有害內容），并獲取建議措施以主動降低風險；

通過 Microsoft Purview 數據安全策略保護敏感數據，防范數據泄露和內部風險；

使用審計、數據生命周期管理、電子數據展示和通信合規功能管理 AI 應用交互。

Microsoft Purview SDK

Microsoft Purview 現在提供 Purview SDK，這是一組 REST API、文檔和代碼示例（目前為預覽版），使開發者能夠在任何集成開發環境（IDE）中將 Microsoft Purview 的數據安全和合規能力集成到 AI 應用程序或智能體中。

▲ 數通過將 Microsoft Purview API 嵌入 IDE，開發者可以幫助確保其 AI 應用在運行時受到保護和治理。

例如，使用 AWS 模型構建 AI 智能體的開發者，可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應用能夠自動識別并阻止用戶輸入的敏感數據，同時為安全團隊提供支持合規的有價值信號。

通過 Microsoft Purview SDK，初創公司、獨立軟件供應商（ISV）和合作伙伴現在可以將Microsoft Purview 行業領先的能力直接嵌入其 AI 應用軟件解決方案中，使這些解決方案具備 Microsoft Purview 感知能力，并使其客戶更容易在 AI 技術解決方案中保護和治理數據。

例如，Infosys網絡安全實踐副總裁兼交付主管阿希什·阿德瓦里尤（Ashish Adhvaryu）表示：“Infosys Cyber Next 平臺集成 Microsoft Purview 以提供增強的 AI 技術安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手（Cyber Advisor），它利用 Microsoft Purview SDK 通過實時監控和審計能力，推動主動威脅緩解。這種集成提供了全面的 AI 技術輔助保護，增強了網絡安全態勢?！?/p>

微軟合作伙伴EY（安永）也利用新的 Microsoft Purview SDK，將 Microsoft Purview 的價值嵌入其生成式 AI 計劃中。EY創新與新興科技合作伙伴蘇曼塔·卡爾（Sumanta Kar）指出：“我們不僅在構建 AI 工具，我們正在創建從一開始就具備信任、安全性和透明度的智能體解決方案，這些特性通過 Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構建安全功能時，我們看到了25%到30%的時間節省?！?/p>

Microsoft Purview與Microsoft Azure AI Foundry (國際版)原生集成

組織平均開發14個自定義 AI 應用程序。而 AI 技術創新的快速步伐，可能使安全團隊無法意識到其環境中的潛在數據安全和合規風險。

Microsoft Azure AI Foundry (國際版)信號現在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數據合規控制集成，最大限度地減少了額外開發工作的需求。

例如，對于使用 Microsoft Azure AI Foundry (國際版)模型構建的 AI 應用程序和智能體，數據安全團隊可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術使用情況和數據風險的可見性，而無需開發人員進行額外工作。數據安全團隊還可以通過 Microsoft Purview Insider Risk Management （IRM） 策略檢測、調查和響應惡意和無意用戶活動，例如離職員工利用 AI 智能體檢索異常數量的敏感數據。最后，Microsoft Azure AI 應用和智能體中的用戶提示和 AI 技術響應，現在可以如上所述被攝取到 Microsoft Purview 合規工具中。

02|Microsoft Purview 數據保護擴展到基于 Microsoft Dataverse 數據的 Microsoft Copilot Studio 智能體

即將在6月推出的預覽版中，Microsoft Purview 信息保護將自動標記和標簽繼承覆蓋范圍擴展到 Dataverse ，以幫助防止過度共享和數據泄露。信息保護使組織能夠更輕松地大規模自動分類和保護敏感數據。

一個常見的挑戰是敏感數據通常從各種來源進入 Dataverse，但沒有一致的標記或保護。如果數據沒有得到適當保護，快速采用使用 Microsoft Copilot Studio 構建并基于 Dataverse 數據的智能體，會增加數據過度共享和泄露的風險。

通過自動標記，存儲在 Dataverse 表中的數據可以根據 Microsoft Purview 中設置的策略自動標記，無論其來源如何。這減少了手動標記的工作量，并在數據進入 Dataverse 時立即保護敏感信息。

通過標簽繼承，基于 Dataverse 數據的 AI 智能體響應將自動攜帶并遵循源數據的敏感度標簽。如果響應從具有不同標簽的多個表中提取數據，則將應用最嚴格的標簽以確保一致的保護。

例如，在 Microsoft Copilot Studio 中構建智能體的財務顧問可能會連接多個 Dataverse表，其中一些標記為“普通”，另一些標記為“高度機密”。如果響應從兩者中提取數據，它將繼承最嚴格的標簽，在本例中為“高度機密”，以防止未經授權的訪問，并確保對智能體的創建者和用戶都應用適當的保護。

總之， Dataverse 中的自動標記和標簽繼承為 AI 技術提供了更安全、自動化的基礎。

▲ 敏感度標簽將自動應用于 Dataverse 中的數據。

▲ AI 技術生成的響應將繼承并遵循源數據的敏感度標簽。

03|Microsoft Purview DSPM for AI

現在可以提供對與 Microsoft Copilot Studio 智能體的未認證交互的可見性

隨著組織越來越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進行一線客戶互動，獲取對未認證用戶交互的可見性并主動緩解風險變得越來越重要。

基于現有的 Microsoft Purview 和 Microsoft Copilot Studio 集成，我們在 Microsoft Copilot Studio 中擴展了 DSPM for AI 和 Audit ，以提供對未經身份驗證的交互的可見性，現在提供預覽版。這使組織能夠更全面地了解跨認證和未認證用戶的 AI 技術相關數據安全風險。

例如，托管面向客戶的外部智能體助手的醫療保健提供商必須能夠檢測和響應未認證用戶嘗試訪問敏感患者數據的行為。借助 DSPM for AI 中的這些新功能，數據安全團隊現在可以識別這些交互，評估敏感數據的潛在暴露，并采取相應行動。此外，與 Microsoft Purview Audit 的集成為團隊提供了無縫訪問審計要求所需的信息。

▲ 獲取對所有 AI 技術交互的可見性，包括來自未認證用戶的交互。

04| Microsoft Purview 數據丟失防護擴展到更多 Microsoft 365 智能體場景

為了幫助組織防止通過 AI 技術過度共享數據，在微軟 Ignite 2024大會上，我們宣布數據安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標記的文檔作為基礎數據生成摘要或響應。

此控件現在處于預覽階段，還將擴展到基于Microsoft 365 數據發布的智能體，包括預構建的 Microsoft 365智能體、使用 Agent Builder 構建的智能體和使用 Microsoft Copilot Studio 構建的智能體。這有助于確保包含敏感內容的文件被 AI 智能體適當使用。

例如，包含高度專業化語言的機密法律文件如果被 AI 智能體摘要可能會導致不當指導，或者“僅限內部”的文檔不應被用于生成可以在組織外部共享的內容。

▲將數據丟失防護（DLP）策略擴展到智能 Microsoft 365 Copilot 副駕駛智能體以保護敏感數據。

我們擴展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數據保護能力，展示了我們對加強 Copilot 控制系統（CSS）的安全與治理支柱的持續投資。CCS 提供集成控件，幫助 IT 和安全團隊保護、管理和監控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體，涵蓋治理、管理和報告。

在 AI 技術快速發展的今天，確保 AI 技術全生命周期的安全防護已成為每個組織的關鍵任務。Microsoft Security 提供從代碼開發到運行維護的全方位安全工具與資源，幫助開發者和安全團隊持續抵御新興威脅，為 AI 模型、應用和智能體構建堅固的安全防線。我們誠摯邀請你深入了解這些解決方案，共同探索 AI 技術安全的最佳實踐，為企業的智能化轉型保駕護航。

*本文中介紹的智能Security Copilot副駕駛服務適用于國際版企業級服務。

[1]《2025年預測：應對迫在眉睫的AI安全挑戰》，作者：Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen，2025年2月10日發布。

[2] IBM《2024年數據泄露成本報告：金融行業》，IBM Think，2024年8月13日發布，原文鏈接：https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry；

Cser, Tamas《軟件開發生命周期中后期發現缺陷的成本》，Functionize，2023年1月5日發布，原文鏈接：

https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc