摘要：

隨著技術的快速發展，戰爭的形態也在不斷變化，軍事智能化的議題越來越重要。人類智能與機器智能的有效協同在戰爭中會扮演越來越重要的角色。本文梳理了美軍發展演進的作戰概念后，結合當前人工智能的特點和不足進行了深入探討，指出了當前人工智能在底層理論支撐上存在的局限性。最后，針對軍事智能中有人—無人協同的問題進行了深入思考和分析，以期找到未來軍事智能發展的真正趨勢和端倪。

軍事智能化將在戰場上發揮越來越重要的作用。不僅要求對戰爭和軍事擁有足夠認識，同時需要提升對智能的認識，深刻理解智能在軍事應用中的優勢和局限性，進而在軍事方面實現人和人工智能的有效協作。這涉及到眾多領域的探索研究和協調配合，是一個重要的人-機-環境系統工程。

1 美作戰概念與軍事智能發展態勢

從上世紀80年代以來，美國國防部、陸軍、海軍、空軍等單位陸續提出了一系列作戰概念。例如從20世紀80-90年代的“空地一體戰”，“非對稱作戰”，“有人/無人協同作戰”，“網絡中心站”等，到21世紀00年代的“認知電子站”“電磁頻譜站”等，再到21世紀10年代的“全球一體化作戰”“多域戰”“馬賽克站”等作戰概念。

在軍事領域中，機械化主要通過增強武器的機動力、火力和防護力提升單件武器的戰斗力，以武器代際更新和擴大數量規模的方式提升整體戰斗力［1］。信息化主要是通過構建信息化作戰體系，以信息流驅動物質流和能量流，實現信息賦能、網絡聚能、體系增能，以軟件版本升級和系統涌現的方式提升整體戰斗力。智能化則是在高度信息化基礎上，通過人工智能賦予作戰體系“學習”和“思考”能力，以快速迭代進化的方式提升整體戰斗力。

從美作戰概念的演化中，可以看出作戰的機械化早已成熟，信息化程度越來越高，智能化也在不斷推進。不僅覆蓋的范圍越來越廣，對多域范圍內的統一溝通協作要求也越來越高。智能化的重要前提是信息化，依托的物質基礎主要是高度信息化以后提供的海量數據資源。隨著近幾十年美國相關作戰概念的提出與普及，其智能化的基礎也越來越堅實，同時人工智能的技術也在社會各方面的重視中飛速發展。

另一方面，美國在引導國家在人工智能發展方面發布了一系列戰略規劃書的同時，積極引導軍事領域與人工智能進行深度融合，發展軍事智能。例如，2016年10月，美國國家科技委員會連續發布了《為人工智能的未來做好準備》和《國家人工智能研究與發展戰略規劃》，戰略文件。2017年初，美國公布的《2016—2045年新興科技趨勢報告》以明確了最值得關注的科技技術，其中就包括云計算、人工智能、量子計算等。

綜上所述，我們可以看出，美國作為人工智能和軍事方面的強國，對人工智能的未來發展以及與軍事的融合充滿了信心，并且努力想要維護自身的領先地位。在了解其軍事智能發展態勢之后，我們更清晰的看到軍事智能發展的重要性。

2 人工智能分析與思考

無論是“軍事智能”還是其它智能，我們首先需要對“智能”和“人工智能”有深刻的認識。“智能”概念中暗含著個體、有限對整體、對無限的關系。針對智能時代的到來，有人提出，“需要從完全不同的角度來考慮和認識自古以來就存在的行為時空原則”，如傳統的人、物、環境關系等。

2.1 “模型”的有效性決定智能水平

世界是多元而復雜的，這其中包括了對象的多樣和復雜，以及不同對象之間關系的多樣與復雜。智能，可以對或多或少的這些對象和關系產生認識和建模。對于同樣的對象或現象，不同的人可以對其建立起不同的模型，同一個人也可以對其建立不同的模型。例如在地球上認識到的“晝夜”和“春夏秋冬”，而在太陽系中去觀察其實是“公轉”“自轉”等運動學規律。很多時候不同的視角，也就是用不同的模型去進行解釋的行為。軍事環境下，由于關乎生命和國家安全，我們對這些智能模型的可靠性和可解釋性要求比起民用領域顯然更高。

在人類的認識中，會出現“悖論”或者“矛盾”這樣的現象。其中“悖論”的一個特征是會對模型賦予導致無解的約束，并且約束往往是簡單的。對同一個事情的不同解釋出現“矛盾”則是由這些解釋模型的多樣性和差異性所產生的。前面我們討論到人類智能在環境中必然存在局限性，而這些必然的局限性導致了所產生的模型也總是存在著或多或少的局限性，一定具有邊界并且通常不是必然有效的。所以會出現面對同樣的問題，各種具有不同邊界和效果的“模型”相互競爭的情況，這種競爭既出現在個體中，也出現在群體中。在個體中，往往體現為“糾結”“沉思”“艱難的選擇”等等。在群體中，小范圍內可能是“辯論”，大范圍可能是不同理論或者共識的競爭與傳播。

機器學習中也有集成學習的思想，方法是把多個估計器的預測結果結合起來，從而獲得比單個估計器更好的泛化能力/魯棒性。但是機器學習中集成的多個估計器往往是同樣或類似的結構或模型，如果是模型本身不利于去表示這些數據的信息，那么再之后也沒辦法通過集成的方式進一步提高了。并且數據往往是給定的，問題也是封閉的，即沒有其它的額外信息可以給予啟發，是“身在此山中”而無法“識得廬山真面目”的狀態。這不同于人類認識事物的過程。人類對事物的認識追求的是最終“識得廬山真面目”，所以總會去尋找某個模型可以在某方面絕對正確的解釋現象，我們姑且可以稱之為“真理”。

從歷史來看，人類不僅有這個動力去尋找這樣的模型，而且竟然還真的有能力尋找到一些，雖然過程中也付出了巨大的代價，但最終借此形成了當前整個發達的科學體系。人類所做到的這些事情真的令人驚奇而贊嘆。在這個過程中，數學發揮了巨大的作用。但數學本身也是人類認識世界的模型之一，它在幫助人們認識世界和產生對世界的認知的各種模型的同時，人們也在不斷發展和完善數學這個系統化的模型本身。

2.2 智能水平提升的動力：挑戰復雜性

時下的人工智能系統還遠遠不能達到人們的期望，因為大部分人沒有感覺到人工智能在生活中對他們有太多幫助。而另一方面，在很多具體領域的從業者卻可以清晰的感知到人工智能技術進步帶來的很多激動人心的成果。例如，利用AI算法實現的高質量實時翻譯，工業缺陷或者異常檢測，圖像根據文字指示生成高質量圖像，智能安防，輔助駕駛等等。所以，總得來說，人工智能還沒有像歷史中的幾次工業革命那樣普遍性的改變我們生活的方方面面，但在很多領域又已經表現了相當強大的能力和潛力。這反映的是當下人工智能系統的通用性的不足，即當下的人工系統無法用于幫助乃至輔助絕大多數人去解決各式各樣的問題。

人工智能這個概念提出以來，一直都面臨著通用性不足的問題，可是為什么遲遲沒能解決呢？

一個原因可能是從前低估了“智能”的復雜性。實際上“復雜”這個詞語從文字上就很好了體現了形成復雜性的兩個根本成因：“復”和“雜”。其中“復”代表著大量同質事物運行的問題，“雜”代表的是大量不同質事物的處理問題。由此，高效和大量的計算應對“復”，而算計用于處理“雜”。當下我們所創造的人工智能可以說對“復”問題的解決能力遠高于對“雜”問題的處理能力，所以智能系統算計能力的不足可能是導致通用性難以實現的一個重要原因。

另外，是否構成人工智能的底層原理中存在根本性的缺失或者缺陷呢？實際上，當前構造人工智能的基礎是當代數學和一些諸如反向傳播的算法。雖然凝結了數學家，神經科學家，認知科學家，心理學家，計算機等領域的學者的共同努力，但我們認為這還遠遠沒有形成真正站得住腳的關于智能的整體理論和大邏輯體系。

2.3 未來人工智能設想

1）兼顧事實與價值

從數論到圖論再到集合論，從算數到微積分到范疇論的數學體系無一不是建立在公理基礎上的數理邏輯體系。數學發展的過程是從具象走向越來越抽象的過程，同時推理過程又始終要求符合嚴密的邏輯。結合這樣的數學基礎以及多種算法所形成的人工智能系統，與從自然中演化而形成的智能體在運行機制上似乎有根本性的區別。我們認為，從性質上講，真正的智能邏輯體系應當既能包括數理邏輯和演繹推理，也能包括辯證邏輯和類比推理。

真實智能從不是單純腦的產物（如狼孩），而是人、物（機器是人造物）、環境相互作用的產物，如一個設計者規劃出的智能系統還需要制造者認真理解后的加工實現，更需要使用者因地制宜、有的放矢地靈活應用等等，所以一個好的人機融合智能涉及三者之間的有效對立統一，既有客觀事實（狀）態的計算，也有主觀價值（趨）勢的算計，是一種人、物、環境的深度態勢感知系統。而當前的人工智能無論是基于淺層次學習方法的還是基于深度學習，在運行時依然是相當靜態的計算，而缺乏就像人類的算計的動態結合與嵌入，進而就遠離了智能的真實與靈變。

2）兼備理性與感性

如果拿理性思維與人文藝術作對比，就會發現自然科學及數學等理性工具是每個人都能夠學會的普遍化工具，本質上是一種主體懸置的態勢感知體系，而最能真正欣賞到人文藝術作品的往往是作者本人或者與作者有相似體悟的人，這常常是一種主體高度參與的態勢感知體系。

毫無疑問，自然科學及數學等理性工具這類主體懸置的態勢感知體系非常重要，沒有這些我們人類就難以可靠描述世界運作中的很多機制。但這是就結果而論的，實際上我們認為智能體要獲得更高智能性的一個關鍵是主體有動力參與環境和與環境有意識的交互，如此智能體才能涌現出那些真正能被其靈活使用的知識。

縱觀人類智能整個誕生的歷史也可以發現，從自然中演化出人類智能的過程，實際上是先具備主體參與和與環境互動的能力，然后逐漸才產生抽象的對符號的認識，然后產生文化，最后才產生出自然科學及數學等這些理性工具。如果用“計算”和“算計”分別來粗略的表示自然科學及數學等理性思考模型和主體高度參與的態勢感知模型，那么算計就可以說是人類帶有動因的理性與感性混合，也是已有邏輯形式與未知邏輯形式的融合籌劃。

3）靈活處理意外情況

人類智能本身是在自然環境中演化而來，這注定了人類在環境中具有的局限性，所以必然會有面臨處理“意外”事件的情況。這里說“意外”不是側重于外部環境的變化性，而是想揭示智能在復雜的環境下生存時具有必然的局限性，從而對智能體而言的“意外”事件必然普遍存在，無法被根本被解決的情況。

人往往能根據更依靠記憶的“經驗預測”或更依靠推理的“模型預測”去處理生活中的各種事件。當出現“意外”，也意味著與自身經驗或者所認知的模型均不吻合。這些意外的處理情況可以分為兩種，一種可以等待進一步豐富或修正經驗和調整模型（也就是學習）來將“意外事件”變成能認知并有效處理的事件之后再處理，一種是當下沒辦法學習而必須立即處理這個“意外”。對于后一種情況，人類往往可以通過被描述為“直覺”、“想象”等的過程比較有效的解決，這個過程往往讓人驚嘆。

對于現有的人工智能系統而言，要實現類似于人的前一種“意外”處理過程，需要重新調整計算機的算法以及得到的模型，是一個復雜和耗費時間的過程：研究，評估，再重新部署運行。至于后一種處理過程，人工智能暫且做不到。

“戰場”這類高動態變化的場景，本身就存在諸多“意外”，鑒于上述對人和人工智能的討論，可以看到當前的“人工智能”很難在戰場環境下提供靈活且有效的決策，需要人與人工智能發揮各自優勢，進行有效的協作。

3 軍事智能化

戰爭的形式隨著時代發展也在不斷發展，從冷兵器戰爭到熱兵器戰爭、機械化戰爭、信息化戰爭。而現在，隨著半導體技術、計算機技術和人工智能等技術的快速發展，智能在戰爭中可能會扮演越來越重要的角色，軍事智能化也成為一個越來越重要的議題。可以預見的是，隨著軍事智能化的不斷深入以及智能化裝備的大量使用，戰爭形態不僅將會從技術上產生巨大的變化，作戰制勝的機理與傳統作戰也會產生不同程度的差異。因此，在繼續進行智能化武器研究的同時，也要提高對軍事智能化系統的認識。在軍事智能化的問題中，我們認為以下一些問題特別值得關注。

3.1 自主系統

在軍事智能化的研究中，一個重要的方向是自主系統的研究。按照期望，自主系統應當可以應對非程序化的或者非預設的態勢任務，并且這樣的系統是具有一定的自我管理和自我引導能力的系統。對比于自動化設備與系統，自主性設備和自主系統能夠應對更加多樣化的環境，并且能夠完成更廣泛的操作和控制，具有更加廣闊的應用潛力。一般而言，自主化需要應用傳感器和復雜的軟件系統，使得設備或系統在較長時間內不需要與其它具備自主性的系統通信或只需有限通信，從而實現無需其他外部控制就能夠獨立完成任務。也因為這樣，自主系統能夠在未知環境中自動進行系統調節，保持性能優良。如果把自主化看作是自動化的外延，那么自主化就是智能化和更高能力的自動化。從另外一個角度，“自主”是基于信息甚至是基于知識驅動的。在執行任務的狀態中，自主系統可以根據任務需求，自主完成“感知—判斷—決策—行動”的動態過程。

自主武器系統方面，美國走在世界的前列。二戰期間開發的空投被動聲自導魚雷是其第一個大規模生產的具有自主作戰功能的武器系統。Mk24“Fido”于1943年5月首次亮相作戰。其使用魚雷中部周圍排列的傳感器對盟軍跨大西洋航運的德國U型潛艇進行監聽、定位、跟蹤和瞄準攻擊。戰后不久，美國軍方開始在更大的武器系統中引入自主功能，特別是防空作戰系統。隨著計算機技術的發展，計算單元的體積越來越小，性能越來越強。使得在諸多裝備加入控制系統成為可能，飛機、艦艇、地面作戰車輛以及火炮和導彈火力控制系統中的各種類型的作戰控制系統在整個部隊中大量出現。與交戰有關的彈藥和武器系統獲得了更大的自主性，包括但不限于：獲取、跟蹤和識別潛在目標；向操作人員提示潛在目標；確定選定目標的優先次序；何時開火；或者提供終端引導，以鎖定選定的目標［2］。如果從1943年開始計算，那么美國軍方已經對具有自主功能的武器系統進行了長達八十年的整合。

3.2 人機融合智能

人機融合是探究人與機器系統之間的交互機制和規律，以人與機器系統（包括人與機器、人與環境）的有效協同為目標的理論和技術統稱。人機融合可能會造成人腦對機器的表征的變化。例如有科學家們已經開始研究額外的機器手指對大腦神經系統的影響［3］。為健全人佩戴了額外的機器第六手指且經過訓練后，機器的第六指在認知負荷增加的情況下依然能夠很好的與人體的五根手指協作。這證明了人腦不僅能夠通過人機融合的方式來控制外部設備，而且能夠在多任務處理等的苛刻條件下進行應對和適應。

美國提出的多域戰、馬賽克戰等模式，實際上都是人機環境系統工程。這些戰爭模式要發揮出其巨大的應用潛力，破解人機融合的有效機制至關重要。所以，人機融合智能機制、機理的破解將成為未來戰爭致勝的關鍵。下面介紹一下我們總結的人機融合智能的一些核心問題：

1）功能力分配

任何分工都會受規模和范圍限制，人機融合智能中一個重要的問題是功能和能力的分配。功能分配是分工的一部分，另外一部分是能力分配。功能分配是被動的，外部需求所致；能力分配是主動的，內部驅動所生。在復雜、異質、非結構、非線性數據/信息/知識中，人的或者是類人的方向性預處理很重要，當初步縮小問題域的范圍后，機器有界、快速、準確的優勢便可以發揮出來了；另外，當獲得大量數據/信息/知識后，機器也可以先把他們初步映射到幾個領域，然后人再進一步處理分析。這兩個過程的同化順應、交叉平衡大致就是人機有機融合的過程。

2）事實與價值的混合

人機融合智能的核心問題為：是不是+該不該+好不好的混雜組合問題。其中“是不是”屬于客觀事實性邏輯計算問題，“該不該”屬于主觀價值性判定算計問題，“好不好”屬于主客觀混合性決策計算計問題。當前大家做人機混合智能大都處在做“是不是”（0、1）的邏輯可計算部分，對于主觀價值的可判定性及兩者的混合“計算-算計”還未有解決的好辦法［4］。

3）對環境的深度態勢感知

除了要關心功能力的分配，事實與價值混合的實現方式，還要注意到這些也都是與環境有關的，需要人機混合智能對環境有深度的態勢感知。“態”“勢”涉及客觀事實性的數據及信息/知識中的客觀部分（如突顯性、時、空參數等），簡單稱之為事實鏈。而“感”“知”涉及主觀價值性的參數部分（如期望、努力程度等），可以稱之為價值鏈。深度態勢感知就是由事實鏈與價值鏈交織糾纏在一起的“雙螺旋”結構，進而能夠實現有效的判斷和準確的決策功能。好的態勢感知能力就是在混亂中看到秩序、在不可能中看到可能、在黑暗中看到光明……所以，目前智能軍事領域的一個核心瓶頸還是人機融合智能中的深度態勢感知問題。

3.3 面臨的挑戰

軍事智能就像戰爭一樣，是一團迷霧，存在著大量的不確定性，是不可預知、不可預測的。從當前人工智能的發展趨勢來看，可預見的未來戰爭中，存在著許多人機融合隱患仍未能解決，具體有：

1）在復雜的信息環境中，人類和機器在特定的時間內吸收、消化和運用有限的信息，對人而言，人的壓力越大，誤解的信息越多，也就越容易導致困惑、迷茫和意外。對機器而言，跨領域非結構化數據的學習理解預測是非常困難的。

2）戰爭中決策所需要的信息在時間和空間上的廣泛分布，決定了一些關鍵信息仍然很難獲取。而且機器采集到的重要的客觀物理性數據與人類獲得的主觀加工后的信息和知識很難協調融合。

3）未來的戰爭中，存在著大量的非線性特征和出乎意料的多變性，常常會導致作戰過程和結果諸多不可預見性，基于公理的形式化邏輯推理已遠遠不能滿足復雜多變戰況決策的需求。鑒于核武器的不斷蔓延和擴散，國家無論大小，國與國之間的未來戰爭成本將會越來越高。無論人工智能怎么發展，未來是屬于人類的，應該由人類共同定義未來戰爭的游戲規則并決定人工智能的命運，而不是由人工智能決定人類的命運，究其因，人工智能是邏輯的，而未來戰爭不僅僅是邏輯的，還存在著大量的非邏輯因素。

4）各國對自主裝備分類不同，對強人工智能或通用人工智能相關武器概念的定義和理解差距很大，有關人工智能應用基本概念和定義如何達成共識？如：a》什么是AI？；b》什么是自主？；c》自動化與智能化區別是？；d》機器計算與人算計的區別是？；e》人機功能/能力分配的邊界是？；f》數據、AI與風險責任的關系如何？；g》可計算性與可判定性區別？

5）有關軍事智能相關概念的定義需要進一步細化。如從人類安全角度看，禁止“人在回路外”的自主武器是符合普遍價值且減少失控風險必要之舉，但是什么樣的人在系統回路中往往就被忽略，一些不負責任的人在系統中可能會使得情況更糟糕。

對于世界上自主技術的發展情況，建議設立聯合評估小組，定期對自主技術發展情況進行細致的評估與預警，對技術發展關口進行把關，對技術發展進行預測分析，對進行敏感技術開發的重點機構和研發人員進行定向監督，設立一定程度的學術開放要求。

6）AI軍用化發展所面臨的安全風險和挑戰主要有：a》人工智能和自主系統可能會導致事態意外升級和危機不穩定；b》人工智能和自主系統將會降低對手之間的戰略穩定性（如中美、美俄之間戰略關系將更加緊張）；c》人和自主系統的不同組合（包括人判斷+人決策、人判斷+機決策、機判斷+人決策、機判斷+機決策）會影響雙方的態勢升級；d》機器理解人發出的威懾信號（尤其是降級信號）較差；e》 自主系統無意攻擊友軍或平民的事故將引起更多質疑；f》 人工智能和自主系統可能會導致軍備競賽的不穩定性；g》 自主系統的擴散可能引發人們認真尋找對策，這些對策將加劇不確定性，且各國將擔憂安全問題。

4 總結與展望

軍事智能化的核心，實際上是要建立人-人工智能組成的一個人機融合團隊系統。所以當前我們要面對的前沿問題是在以下四個情況的基礎上加以考慮的：

1）當前人工智能被證明在復雜的真實世界環境（如軍事行動）中的成功表現面臨許多挑戰，包括脆性、感知限制、隱藏的偏見以及缺乏對理解和預測未來事件至關重要的因果關系模型。

2）人們在作為復雜自動化（包括人工智能系統）的成功監控者方面面臨巨大挑戰。人們可能會對系統正在做的事情缺乏了解，在嘗試與人工智能系統交互時工作負載高，在需要干預時態勢感知（SA）和性能不足，基于系統輸入的決策偏差，以及手工技能的退化［5］。

3）雖然假設人類-人工智能團隊將比人類或人工智能系統單獨運行更有效，但除非人類能夠理解和預測人工智能系統的行為、與人工智能系統建立適當的信任關系、根據人工智能系統的輸入做出準確的決策、以及時和適當的方式對系統施加控制，否則情況不會如此。

4）支持人類和人工智能系統成為隊友依賴于一個精心設計的系統，該系統需要具有任務工作和團隊合作的能力。從而通過改進團隊組合、目標一致、溝通、協調、社會智能和開發新的人工智能語言來研究提高長期、分布式和敏捷的人工智能團隊的團隊效率。

具體到各方面，所面臨的前沿問題主要有：

1）態勢感知：人工智能系統輔助下人類態勢感知需要被改善，需要一些方法去考慮不同類型的應用、操作的時間尺度以及與基于機器學習（ML）的人工智能系統相關的不斷變化的能力。

需要探索和研究的一些問題：a）人工智能系統需要在多大程度上既有自我意識又有對人類隊友的意識，以提高整體團隊表現？；b）未來的人工智能系統如何擁有綜合的情境模型，以恰當地理解當前的情境，并為決策制定預測未來的情境？；c）如何建立動態任務環境的人工智能模型，從而與人類一起調整或消除目標沖突，并同步情景模型、決策、功能分配、任務優先級和計劃，以實現協調和批準的行動？

2）人工智能的透明度和可解釋性：實時透明對于支持人工智能系統的理解和可預測性是至關重要的，并且已經被發現可以顯著地補償回路外的性能缺陷［6］。需要探索和研究的一些問題：a）更好地定義信息需求和方法，以實現基于ML的AI系統的透明性，以及定義何時應該提供這樣的信息，以滿足SA需求，而不會使人過載。；b）基于機器學習的人工智能系統的解釋的改進可視化。；c）對機器人物角色的價值的研究。；d）人工智能可解釋性和信任之間的關系。；e）開發有效的機制來使解釋適應接受者的需求、先驗知識和假設以及認知和情緒狀態。；f）確定對人類推理的解釋是否同樣可以改善人工智能系統和人-人工智能團隊的表現。

3）人-人工智能團隊交互：人-人工智能團隊中的交互機制和策略對團隊效率至關重要［7］。

需要探索和研究的一些問題：a）如何隨著時間的推移支持跨職能靈活分配自動化級別，以及如何改進以支持人類和人工智能系統在共享功能方面的合作，支持人類操作員在多個自動化級別下與人工智能系統一起工作？；b）如何在高自動化級別下與人工智能系統一起工作時保持或恢復態勢感知（即人在環）？；c）如何隨著時間的推移，實現人-人工智能團隊之間的動態功能分配，以及尋找動態過渡的最佳方法（何時發生，誰應該激活它們，以及它們應該如何發生）？；d）如何更好地理解和預測緊急人機交互？；e）如何更好地理解交互設計決策對技能保留、培訓要求、工作滿意度和整體人機團隊彈性的影響？

4）信任：對人工智能的信任被認為是使用人工智能系統的一個基本因素。需要探索和研究的一些問題：a）人工智能可指導性對信任關系的影響；b）如何建立動態的信任模型，來捕捉信任如何在各種人-人工智能團隊環境中演變和影響績效？

5）偏見：人工智能系統中的潛在偏差，通常是隱藏的，可以通過算法的開發以及訓練集中的系統偏差等因素引入。此外，人類可能會遭受幾個眾所周知的決策偏差。特別重要的是，人工智能系統的準確性會直接影響人類的決策，從而產生人類-人工智能團隊偏見［8］。因此，人類不能被視為人工智能建議的獨立裁決者。需要探索和研究的一些問題：a）如何理解人類和人工智能決策偏差之間的相互依賴性，這些偏差如何隨著時間的推移而演變？；b）如是使用基于機器學習的人工智能檢測和預防偏差？；c）如何發現和防止可能試圖利用這些偏見的潛在敵對攻擊？

6）培養：需要對人-人工智能團隊進行培訓，以開發有效執行所需的適當團隊結構和技能需要探索和研究的一些問題：a）什么時候，為什么以及如何最好地訓練人類-人工智能團隊？；b）現有的訓練方法是否可以適用于人類-人工智能團隊？；c）如何通過訓練來更好地校準人類對人工智能隊友的期望，并培養適當的信任水平？

7）人-系統集成（human-systems integration，HSI）流程和措施：要成功開發一個能像好隊友一樣工作的人工智能系統，需要人-系統集成過程和方法的進步。良好的HSI實踐將是新人工智能系統的設計、開發和測試的關鍵，特別是基于敏捷或DevOps實踐的系統開發［9］。需要探索和研究的一些問題：a）如何建立有效的人工智能團隊以及多學科人工智能開發團隊（包括人類因素工程師、社會技術研究人員、系統工程師和計算機科學家等）？；b）人工智能生命周期測試和可審計性以及人工智能網絡漏洞的新團隊、方法和工具。；c）如何開發用于測試和驗證進化的AI系統，以檢測AI系統盲點和邊緣情況，并考慮脆性？；d）如何改進人機合作的度量標準（特別是關于信任、心智模型和解釋質量的問題）？