本周二，美東時間，得以觀測到，在上個月有“里程碑式”標(biāo)簽的行政命令簽署后，美國總統(tǒng)Biden正在領(lǐng)導(dǎo)一場關(guān)于生成式人工智能的政策改革。該行動從早在四季度就開始實施，其目的就是為了保證機(jī)器學(xué)習(xí)系統(tǒng)能精準(zhǔn)處理安全問題。

美國商務(wù)部的國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）宣布，即將于2月2日起，啟動人工智能的關(guān)鍵性測試工作，這對于保護(hù)人工智能系統(tǒng)的安全性具有巨大的現(xiàn)實意義。

NIST強(qiáng)調(diào)，正在積極擬定評估和檢測AI系統(tǒng)的具體指南，以推動人工智能領(lǐng)域的標(biāo)準(zhǔn)化進(jìn)程，同時為評估人工智能系統(tǒng)提供完善的測試環(huán)境。針對人工智能行業(yè)的潛在風(fēng)險，美國商務(wù)部長Gina Raimondo表示，全新的NIST措施正受到Biden總統(tǒng)10月份行政命令的催化作用影響，致力于打造“涵蓋范圍廣泛，關(guān)乎人工智能安全、保障及信任的行業(yè)標(biāo)準(zhǔn)，以此加強(qiáng)美國在負(fù)責(zé)任運營和使用這項快速進(jìn)化技術(shù)方面的全球領(lǐng)導(dǎo)地位。”

據(jù)悉，NIST目前計劃制定包含“紅隊”測試策略在內(nèi)的專項指導(dǎo)方針，即由專家團(tuán)隊模擬對手環(huán)境，對人工智能系統(tǒng)的安全性能進(jìn)行全面檢驗。“紅隊”測試作為網(wǎng)絡(luò)安全測試中的核心環(huán)節(jié)，其重要性不言而喻。8月份，在一次重量級的網(wǎng)絡(luò)安全會議上，美國首次公開展示了人工智能的“紅隊”測試過程，吸引了大量AI行業(yè)組織如AI Village、SeedAI和Humane Intelligence等參與其中。

據(jù)白宮披露，該次測試的參與人次高達(dá)數(shù)千人，大家通過嘗試主動攻擊系統(tǒng)來找出可能存在的安全隱患，并探討了如何改進(jìn)以提升整體防御水平。此次測試也證實了“外部紅隊在發(fā)現(xiàn)新穎的人工智能風(fēng)險方面的顯著優(yōu)勢”。