在過去十年中，人工智能 (AI) 領域取得了令人矚目的進步，尤其是在數據驅動的機器學習（ML）技術方面。然而，對于許多國家安全應用來說，具有適當可信度的人工智能還不存在。為了獲得信任，這樣的系統(tǒng)必須能夠可靠地運行，與人進行適當的互動，并以合乎道德倫理的方式滿足緊迫的國家安全需求。創(chuàng)建這樣的系統(tǒng)需要在（至少）三個關鍵領域取得重大進展：

1.基礎理論：了解可能性的藝術，限制特定系統(tǒng)實例化的限制，并為國家安全等具有挑戰(zhàn)性領域的人工智能系統(tǒng)提供信息；

2.人工智能工程：以可預測的方式構建在現實世界中按預期工作的系統(tǒng)，而不僅僅是在實驗室中；

3.人機協(xié)同：使系統(tǒng)能夠成為具有不同背景的人的流暢、直觀、值得信賴的隊友。

DARPA對于人工智能的理解（翻譯&字幕 by 防務菌）

美國防高級研究計劃局（DARPA）在起草當前的“AI分析框架”過程中，這些要點成為重要方向，并與國家AI研發(fā)戰(zhàn)略重點保持一致 。此外，需要在數據和計算方面顯著提高ML的效率，以使基于ML的系統(tǒng)對許多國家安全應用具有成本效益。

2022年9月13日，DARPA在“前沿”系列研討會（詳情可參見防務菌此前推送：【Forward Conference】重磅！DARPA即將召開前沿系列研討會）的第二站華盛頓州立大學活動上（詳情可參見防務菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第二站——華盛頓州立大學），信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費舍爾（Kathleen Fisher）博士向與會者做了題為“用于對抗環(huán)境的可信人工智能”的系列項目簡介。在將近45分鐘的時間里，梳理了從生成對抗網絡（GAN）、深度語音2（Deep Speech 2）到AlphaGo、Move 37、Libratus系統(tǒng)、特斯拉自動駕駛、GPT-3、AlphaFold等等一系列AI在各個領域的應用情況，最終落到國防領域。

用于對抗環(huán)境的可信人工智能（翻譯&字幕 by 防務菌）

2022年10月26日，在“前沿”系列研討會的第四站佐治亞理工學院站活動上（詳情可參見防務菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第四站——佐治亞理工學院），凱瑟琳·費舍爾（Kathleen Fisher）宣布了“人工智能前沿”（AI Forward）計劃，聚焦三個關鍵領域：第一，基礎理論，以便了解可能的藝術；第二，人工智能工程，以便能夠可靠地和可預測地建立在現場和實驗室中都能工作的系統(tǒng) ；第三，人-AI協(xié)同，使系統(tǒng)能夠作為流暢的直覺伙伴，而不僅僅是工具（詳情可參見防務菌此前推送：【AI Tutoring 】DARPA人工智能（AI）應用新開一局）。

DARPA信息創(chuàng)新辦公室（I2O）主任凱瑟琳·費舍爾解讀“AI前沿”（AI Forward）計劃（翻譯&字幕 by 防務菌）

為加速推進AI Forward計劃，2023年2月25日，DARPA通過其官網宣布，將于2023年6月和7月，分別通過在線和現場的方式召開兩個研討會。

1.在線研討會：2023年6月13日至16日（周二至周五）；美國東部時間12:00 - 5:00，每天休息一小時。

2.現場研討會：2023年7月31日至8月2日，馬薩諸塞州波士頓，美國東部時間，周一 11:00 - 6:00；周二 9:00 - 6:00；周三 9:00 - 5:00

在這些高度互動和協(xié)作的研討會中，參與者將共同設想新的AI研究方向，這些方向可能會催生適用于國家安全應用的可信AI。每個研討會的參與人數限制為大約100人。每個研討會都將包括與行業(yè)、學術和政府領導以及專家就AI當前和未來研究方向進行的討論和有指導的頭腦風暴會議。

DARPA預計研討會將是激烈、互動和自由思考的。他們旨在激發(fā)對跨越AI許多不同領域的有前途的新研究方向的思考，包括人類語言技術、大型語言模型、生成模型、AI哲學和倫理，以及著眼于未來國家安全相關的具身認知應用程序。參與者將被期望與彼此、協(xié)調人和主題指南（將幫助構建和指導討論的領域專家）建設性地進行對話，以制定合作研究主題，以幫助定義未來可能的DARPA活動。目標是將來自不同學科的個人聚集在一起，根據第一原則進行互動和自由思考，相互學習，

在研討會的過程中，參與者將組成小組，針對跨學科主題領域推介和完善主題（基于主題指南的輸入），這些主題領域推進關于AI未來的科學問題，以及如何解決有能力、可信AI的問題在具有挑戰(zhàn)性的現實世界問題中與人類很好地合作。

AI Forward計劃將由KnowInnovation推動，KnowInnovation 是一家專門與科學團體合作以加速創(chuàng)新并實現戰(zhàn)略成果的公司。參與者可以期待高度互動的在線和現場活動。在一些旨在搭建舞臺的有針對性的全體演講之后，大部分時間將花在以解決方案為中心的討論上。

AI Forward研討會的最終成果將是確定大約40個有前途的未來研究領域。對于每個領域，參與者將探索諸如未解決的問題、潛在的研究問題、預期的影響以及取得進展所需的專業(yè)知識等項目。參與者將針對每個領域進行演示（2-3 分鐘）并提供配套的白皮書（2-3 頁）。DARPA將考慮這些演示文稿和白皮書，以制定其未來的AI戰(zhàn)略。作為該戰(zhàn)略的一部分，DARPA可能會根據兩個AI Forward研討會的成果創(chuàng)建2個新的人工智能探索項目 (AIE) 。參與者將能夠向這些AIE提交他們的工作以供考慮，這些AIE將被廣泛宣布以征求建議。

對于即將召開的AI Forward研討會，凱瑟琳·費舍爾表示：“盡管我們已經看到了該領域的巨大進步，但人工智能仍然需要大量的投資和進步，以開發(fā)可靠運行、與人適當互動的技術，并以倫理道德方式滿足最緊迫的國家安全和社會需求。我們正在呼吁所有相關的研究人員和專家加入我們的行列，因為我們正在定義當今最具影響的技術的未來。通過參與AI Forward，你將有機會幫助規(guī)劃未來幾十年保持我們國家和我們盟友安全所必需的能力。”

審核編輯 ：李倩