電影《未來戰(zhàn)士》（Terminator）中，人工智能機(jī)器天網(wǎng)（SkyNet）派出「殲滅者」機(jī)器人消滅所有幸存的人類。「被造之物」擁有自我意識(shí)后，反過來殲滅「造物者」是不少科幻電影的橋段。隨科技日益進(jìn)步，距離人類兌現(xiàn)「自我實(shí)現(xiàn)預(yù)言」的一日或者愈來愈近。

人工智能（artificial intelligence，AI）科技近年突飛猛進(jìn)。軍事大國(guó)也積極開發(fā)軍用人工智能，不但用來協(xié)助人類作出更準(zhǔn)確的判斷，甚至研制更強(qiáng)大的武器，包括致命自主武器（lethal autonomous weapon）。

俄羅斯總統(tǒng)普京曾形容，得人工智能者得天下。回顧人類軍事歷史，火藥和核武器的發(fā)明均掀起重大變革。不少專家也認(rèn)為，人工智能將會(huì)是新時(shí)代軍備競(jìng)賽的重要一環(huán)。

人工智能大躍進(jìn)

現(xiàn)代人工智能的大躍進(jìn)始于2012年。研究員成功開發(fā)「深度學(xué)習(xí)」（deep learning）技術(shù)，利用深度類神經(jīng)網(wǎng)路進(jìn)行學(xué)習(xí)。自此，人工智能系統(tǒng)開始超越人類，能夠辨識(shí)人臉、分辨物件、抄錄演說什至玩復(fù)雜的游戲。

哲學(xué)家米勒（Vincent Müller）和博斯特倫（Nick Bostrom）在2011年至2013年期間進(jìn)行的研究，訪問170名人工智能專家。普遍認(rèn)為高等機(jī)器智能（high-level machine intelligence）有九成機(jī)會(huì)于2075年前誕生，亦有一半機(jī)會(huì)于2040年出現(xiàn)。

科學(xué)家很清楚人工智能系統(tǒng)的威力，也擔(dān)心終有一天會(huì)研發(fā)出「殲滅者」般的自主武器。物理學(xué)家霍金（Stephen Hawking）曾警告規(guī)管人工智能的重要，形容人工智能有可能是人類文明歷史中最壞的事件。Tesla行政總裁馬斯克（Elon Musk）亦指，人工智能軍備競(jìng)賽或成為第三次世界大戰(zhàn)的藥引。

軍備競(jìng)賽：電影《復(fù)仇者聯(lián)盟：奧創(chuàng)紀(jì)元》（Avengers： Age of Ultron）中，人類創(chuàng)造強(qiáng)大的人工智能「奧創(chuàng)」，卻反過來受到威脅。（電影截圖）

雜志《外交政策》（Foreign Policy）形容，中國(guó)采取的戰(zhàn)略最進(jìn)取，專注發(fā)展能夠執(zhí)行戰(zhàn)略決策的人工智能。相比起人類，電腦能夠處理大量信息，如部隊(duì)準(zhǔn)確的全球定位系統(tǒng)（GPS）位置、無(wú)人機(jī)和衛(wèi)星報(bào)告。利用人工智能作決策，自然占有軍事優(yōu)勢(shì)。

美國(guó)的策略相對(duì)較保守。奧巴馬時(shí)期的國(guó)防部官員發(fā)表第三次抵銷戰(zhàn)略（Third Offset Strategy），提到華府將主力發(fā)展「人機(jī)合作」，而非制造全自主系統(tǒng)，意味機(jī)器將協(xié)助人類作出更好的決定。例如利用「電腦視覺」分析影像和鎖定目標(biāo)，協(xié)助人類操作無(wú)人機(jī)。

至于俄羅斯則采取最直截了當(dāng)?shù)姆较颍瑢⑷斯ぶ悄軕?yīng)用于軍事硬件。俄羅斯戰(zhàn)術(shù)導(dǎo)彈公司（Tactical Missiles Corporation）已著手開發(fā)能夠于飛行途中改變航道的自我導(dǎo)航導(dǎo)彈，用來避開防導(dǎo)系統(tǒng)。

軍備競(jìng)賽：美國(guó)計(jì)劃讓艾布拉姆斯（Abrams）坦克控制其他自主坦克來攻擊敵人，同時(shí)保護(hù)有人的坦克。（視覺中國(guó)）

「未來戰(zhàn)士」指日可待

如同「殲滅者」的殺手機(jī)器人又會(huì)否出現(xiàn)？隨人臉辨識(shí)和決策演算法愈來愈成熟，科幻劇情或許會(huì)成為現(xiàn)實(shí)。

人工智能的威力可謂毋庸置疑。2016年，美國(guó)研發(fā)的人工智能系統(tǒng)阿爾法（Alpha）于模擬戰(zhàn)斗中擊敗兩架戰(zhàn)機(jī)。代表人類出戰(zhàn)的退役空軍上校李（Gene Lee）未能擊中目標(biāo)，屢戰(zhàn)屢敗。他形容，人工智能系統(tǒng)似乎能夠洞悉自己的意圖，并即時(shí)作出反應(yīng)。

人工智能研究員拉塞爾（Stuart Russell）認(rèn)為，技術(shù)上，自主武器比起自動(dòng)駕駛汽車更簡(jiǎn)單。現(xiàn)時(shí)，美軍已在駐軍地區(qū)部署大量軍事無(wú)人機(jī)。不過無(wú)人機(jī)仍由人手操控，決定何時(shí)展開攻擊。最簡(jiǎn)單的致命自主武器不會(huì)如同「殲滅者」，反而是沿用現(xiàn)有的軍事無(wú)人機(jī)硬件，將人手操縱改為由演算法操縱。

升級(jí)版的無(wú)人機(jī)能夠消除傳送信息的「時(shí)差」，同時(shí)能大量部署。演算法可以設(shè)定「殺人名單」，攻擊特定目標(biāo)，或者從影片或?qū)崙?zhàn)中訓(xùn)練，學(xué)習(xí)分辨攻擊目標(biāo)。有人提出，由于機(jī)械不會(huì)感到疲累，因而不會(huì)犯錯(cuò)，也因?yàn)椴粠в袕?fù)仇情緒，所以不會(huì)犯下戰(zhàn)爭(zhēng)罪行，蓄意殺害無(wú)辜平民。

軍備競(jìng)賽：美國(guó)前總統(tǒng)奧巴馬執(zhí)政期間，派駐戰(zhàn)區(qū)的美軍數(shù)目大減近九成，但無(wú)人機(jī)空襲次數(shù)卻增加十倍。圖為美國(guó)空軍的全球鷹（Global Hawk）無(wú)人機(jī)。

「殲滅者」將誤入歧途？

如果繼續(xù)發(fā)展致命自主武器，武器最終會(huì)變得廉價(jià)。現(xiàn)時(shí)要購(gòu)買無(wú)人機(jī)已經(jīng)極為容易，隨技術(shù)改進(jìn)，價(jià)錢也將持續(xù)下降。如果有人于戰(zhàn)場(chǎng)使用無(wú)人機(jī)，毫無(wú)疑問亦會(huì)有部份無(wú)人機(jī)落入敵方。制造便宜、容易擴(kuò)散的大規(guī)模殺傷性武器，將會(huì)反過來被敵方利用。

要避免「自我實(shí)現(xiàn)」，發(fā)展人工智能的過程應(yīng)該審慎。康恩說：「我們?cè)噲D避免一場(chǎng)人工智能競(jìng)賽。沒有人想競(jìng)賽，但沒有人想不代表不會(huì)發(fā)生。引發(fā)人工智能競(jìng)賽的其中一項(xiàng)因素是武器的競(jìng)賽。」如果有國(guó)家過于注重發(fā)展軍用人工智能，其他國(guó)家也自然跟隨，最終或釀成無(wú)法挽回的后果。