電影《未來戰(zhàn)士》(Terminator)中,人工智能機(jī)器天網(wǎng)(SkyNet)派出「殲滅者」機(jī)器人消滅所有幸存的人類。「被造之物」擁有自我意識(shí)后,反過來殲滅「造物者」是不少科幻電影的橋段。隨科技日益進(jìn)步,距離人類兌現(xiàn)「自我實(shí)現(xiàn)預(yù)言」的一日或者愈來愈近。
人工智能(artificial intelligence,AI)科技近年突飛猛進(jìn)。軍事大國(guó)也積極開發(fā)軍用人工智能,不但用來協(xié)助人類作出更準(zhǔn)確的判斷,甚至研制更強(qiáng)大的武器,包括致命自主武器(lethal autonomous weapon)。
俄羅斯總統(tǒng)普京曾形容,得人工智能者得天下。回顧人類軍事歷史,火藥和核武器的發(fā)明均掀起重大變革。不少專家也認(rèn)為,人工智能將會(huì)是新時(shí)代軍備競(jìng)賽的重要一環(huán)。
人工智能大躍進(jìn)
現(xiàn)代人工智能的大躍進(jìn)始于2012年。研究員成功開發(fā)「深度學(xué)習(xí)」(deep learning)技術(shù),利用深度類神經(jīng)網(wǎng)路進(jìn)行學(xué)習(xí)。自此,人工智能系統(tǒng)開始超越人類,能夠辨識(shí)人臉、分辨物件、抄錄演說什至玩復(fù)雜的游戲。
哲學(xué)家米勒(Vincent Müller)和博斯特倫(Nick Bostrom)在2011年至2013年期間進(jìn)行的研究,訪問170名人工智能專家。普遍認(rèn)為高等機(jī)器智能(high-level machine intelligence)有九成機(jī)會(huì)于2075年前誕生,亦有一半機(jī)會(huì)于2040年出現(xiàn)。
科學(xué)家很清楚人工智能系統(tǒng)的威力,也擔(dān)心終有一天會(huì)研發(fā)出「殲滅者」般的自主武器。物理學(xué)家霍金(Stephen Hawking)曾警告規(guī)管人工智能的重要,形容人工智能有可能是人類文明歷史中最壞的事件。Tesla行政總裁馬斯克(Elon Musk)亦指,人工智能軍備競(jìng)賽或成為第三次世界大戰(zhàn)的藥引。
軍備競(jìng)賽:電影《復(fù)仇者聯(lián)盟:奧創(chuàng)紀(jì)元》(Avengers: Age of Ultron)中,人類創(chuàng)造強(qiáng)大的人工智能「奧創(chuàng)」,卻反過來受到威脅。(電影截圖)
雜志《外交政策》(Foreign Policy)形容,中國(guó)采取的戰(zhàn)略最進(jìn)取,專注發(fā)展能夠執(zhí)行戰(zhàn)略決策的人工智能。相比起人類,電腦能夠處理大量信息,如部隊(duì)準(zhǔn)確的全球定位系統(tǒng)(GPS)位置、無(wú)人機(jī)和衛(wèi)星報(bào)告。利用人工智能作決策,自然占有軍事優(yōu)勢(shì)。
美國(guó)的策略相對(duì)較保守。奧巴馬時(shí)期的國(guó)防部官員發(fā)表第三次抵銷戰(zhàn)略(Third Offset Strategy),提到華府將主力發(fā)展「人機(jī)合作」,而非制造全自主系統(tǒng),意味機(jī)器將協(xié)助人類作出更好的決定。例如利用「電腦視覺」分析影像和鎖定目標(biāo),協(xié)助人類操作無(wú)人機(jī)。
至于俄羅斯則采取最直截了當(dāng)?shù)姆较颍瑢⑷斯ぶ悄軕?yīng)用于軍事硬件。俄羅斯戰(zhàn)術(shù)導(dǎo)彈公司(Tactical Missiles Corporation)已著手開發(fā)能夠于飛行途中改變航道的自我導(dǎo)航導(dǎo)彈,用來避開防導(dǎo)系統(tǒng)。
軍備競(jìng)賽:美國(guó)計(jì)劃讓艾布拉姆斯(Abrams)坦克控制其他自主坦克來攻擊敵人,同時(shí)保護(hù)有人的坦克。(視覺中國(guó))
「未來戰(zhàn)士」指日可待
如同「殲滅者」的殺手機(jī)器人又會(huì)否出現(xiàn)?隨人臉辨識(shí)和決策演算法愈來愈成熟,科幻劇情或許會(huì)成為現(xiàn)實(shí)。
人工智能的威力可謂毋庸置疑。2016年,美國(guó)研發(fā)的人工智能系統(tǒng)阿爾法(Alpha)于模擬戰(zhàn)斗中擊敗兩架戰(zhàn)機(jī)。代表人類出戰(zhàn)的退役空軍上校李(Gene Lee)未能擊中目標(biāo),屢戰(zhàn)屢敗。他形容,人工智能系統(tǒng)似乎能夠洞悉自己的意圖,并即時(shí)作出反應(yīng)。
人工智能研究員拉塞爾(Stuart Russell)認(rèn)為,技術(shù)上,自主武器比起自動(dòng)駕駛汽車更簡(jiǎn)單。現(xiàn)時(shí),美軍已在駐軍地區(qū)部署大量軍事無(wú)人機(jī)。不過無(wú)人機(jī)仍由人手操控,決定何時(shí)展開攻擊。最簡(jiǎn)單的致命自主武器不會(huì)如同「殲滅者」,反而是沿用現(xiàn)有的軍事無(wú)人機(jī)硬件,將人手操縱改為由演算法操縱。
升級(jí)版的無(wú)人機(jī)能夠消除傳送信息的「時(shí)差」,同時(shí)能大量部署。演算法可以設(shè)定「殺人名單」,攻擊特定目標(biāo),或者從影片或?qū)崙?zhàn)中訓(xùn)練,學(xué)習(xí)分辨攻擊目標(biāo)。有人提出,由于機(jī)械不會(huì)感到疲累,因而不會(huì)犯錯(cuò),也因?yàn)椴粠в袕?fù)仇情緒,所以不會(huì)犯下戰(zhàn)爭(zhēng)罪行,蓄意殺害無(wú)辜平民。
軍備競(jìng)賽:美國(guó)前總統(tǒng)奧巴馬執(zhí)政期間,派駐戰(zhàn)區(qū)的美軍數(shù)目大減近九成,但無(wú)人機(jī)空襲次數(shù)卻增加十倍。圖為美國(guó)空軍的全球鷹(Global Hawk)無(wú)人機(jī)。
「殲滅者」將誤入歧途?
如果繼續(xù)發(fā)展致命自主武器,武器最終會(huì)變得廉價(jià)。現(xiàn)時(shí)要購(gòu)買無(wú)人機(jī)已經(jīng)極為容易,隨技術(shù)改進(jìn),價(jià)錢也將持續(xù)下降。如果有人于戰(zhàn)場(chǎng)使用無(wú)人機(jī),毫無(wú)疑問亦會(huì)有部份無(wú)人機(jī)落入敵方。制造便宜、容易擴(kuò)散的大規(guī)模殺傷性武器,將會(huì)反過來被敵方利用。
要避免「自我實(shí)現(xiàn)」,發(fā)展人工智能的過程應(yīng)該審慎。康恩說:「我們?cè)噲D避免一場(chǎng)人工智能競(jìng)賽。沒有人想競(jìng)賽,但沒有人想不代表不會(huì)發(fā)生。引發(fā)人工智能競(jìng)賽的其中一項(xiàng)因素是武器的競(jìng)賽。」如果有國(guó)家過于注重發(fā)展軍用人工智能,其他國(guó)家也自然跟隨,最終或釀成無(wú)法挽回的后果。
-
人工智能
+關(guān)注
關(guān)注
1806文章
48987瀏覽量
248982 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5560瀏覽量
122753
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論