近日,在日內(nèi)瓦聯(lián)合國舉行了常規(guī)武器公約關(guān)于致命自主武器系統(tǒng)的政府專家小組第一次會議。像“停止殺手機(jī)器人運(yùn)動”這樣的組織正在鼓勵(lì)聯(lián)合國推進(jìn)自主武器的國際監(jiān)管,這很好,因?yàn)檎務(wù)撨@些問題將如何影響機(jī)器人和社會的未來是一件非常重要的事情。
然而近日看到了一個(gè)視頻,讓我覺得這是一場令人不安的自主武器辯論。在Elon Musk的“未來生活研究所”的支持下制作的這部名為“屠宰機(jī)器人”的視頻將圖像暴力與技術(shù)合理性相結(jié)合,想象一個(gè)非常暗淡的場景:一個(gè)虛構(gòu)的不久的將來,自主攜帶爆炸物的微型無人機(jī)在世界各地正在殺死數(shù)千人。
我們不會在這里嵌入視頻,因?yàn)樗艘恍┍┝鼍埃ń淌依锏目植酪u擊(!)。
讓我感到非常失望的是機(jī)器人和人工智能研究人員,我本來是很尊重的,他們會支持這種聳人聽聞的說法,這似乎是為了讓人們感到震驚和恐慌,而不是傳遞任何有用的信息,來了解實(shí)際的問題是什么。這里的信息似乎是,如果你有興趣討論這些問題,或者你認(rèn)為可能有其他可能更有效的方法來塑造未來的自主武器,除了呼吁禁止,那么你就和***站在一邊。這是一種非常熟悉的修辭形式,它被證明是有效的,因?yàn)樗哪康牟皇且獋鬟_(dá)事實(shí),而是利用情緒和恐懼。另一個(gè)問題是,像這樣的視頻,由學(xué)者創(chuàng)建和推廣,可能會讓公眾更加不信任和害怕機(jī)器人,這是機(jī)器人界長期以來一直反對的事情。
就個(gè)人而言,我不是“殺手機(jī)器人”,也不是“有意義的人類控制之外的自主武器”。在這一點(diǎn)上,我覺得很難支持徹底的禁止,因?yàn)槲艺J(rèn)為這樣做對于一個(gè)尚未完全表征的復(fù)雜問題是一個(gè)潛在的無效的解決辦法。人工智能和武器控制專家們?nèi)匀辉谟懻撌裁矗貏e是應(yīng)該受到管制或禁止,以及如何執(zhí)行。說“我們有機(jī)會阻止你剛才看到的未來”,正如加州大學(xué)伯克利分校教授斯圖爾特·拉塞爾(Russell,“屠宰機(jī)器人”的創(chuàng)造者之一)在錄像結(jié)束時(shí)所做的那樣,是一種過于簡單化,在我看來,自主武器不會阻礙無人機(jī)的小型化,不會阻礙面部識別技術(shù)的進(jìn)步,也不會妨礙二者的融合,這就是“屠宰機(jī)器人”呈現(xiàn)的方案。
當(dāng)被問及這部電影是否依賴恐怖主義時(shí),羅素的一位同事,新南威爾士大學(xué)的一位AI教授托比·沃爾什(Toby Walsh)也不同意。他說:“這不是恐懼。“俄羅斯駐聯(lián)合國大使剛才對聯(lián)合國常設(shè)委員會會議說,我們不用擔(dān)心致命的自主武器,因?yàn)樗鼈兲b遠(yuǎn)了,不必?fù)?dān)心。相反,這部電影的目的是要證明我們離自主武器有多近。它顯示了如果把一些現(xiàn)有的技術(shù)和這種技術(shù)的濫用放在一起,會發(fā)生什么事情。
兩年前,我回應(yīng)了第一封公開信,呼吁禁止攻擊性自主武器,提出另一種觀點(diǎn),即為什么自主武器也可能是有益的。拉塞爾和沃爾什以及麻省理工學(xué)院教授馬克斯·泰格馬克(Max Tegmark)在IEEE《科技縱覽》出版的一篇文章中做了回應(yīng),該文章從以下幾點(diǎn)開始:
“我們歡迎埃文·阿克曼(Evan Ackerman)為擬議禁止攻擊性自主武器的討論做出貢獻(xiàn)。這是一個(gè)復(fù)雜的問題,雙方都有需要仔細(xì)權(quán)衡的有趣論據(jù)。“
我完全同意。現(xiàn)在進(jìn)行這個(gè)討論是為了更加和平的未來而努力的最好的方式,但是為了做到這一點(diǎn),我們必須進(jìn)行討論,而不是制造嚇人的視頻來詆毀我們不同意的人,同時(shí)加強(qiáng)不切實(shí)際和日益消極的看法,人們已經(jīng)有了機(jī)器人技術(shù)。
-
機(jī)器人
+關(guān)注
關(guān)注
213文章
29701瀏覽量
212609 -
無人機(jī)
+關(guān)注
關(guān)注
231文章
10824瀏覽量
186571
原文標(biāo)題:有關(guān)致命的微型無人機(jī),反烏托邦的未來和自治武器的辯論
文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
盤點(diǎn)#機(jī)器人開發(fā)平臺
【「# ROS 2智能機(jī)器人開發(fā)實(shí)踐」閱讀體驗(yàn)】視覺實(shí)現(xiàn)的基礎(chǔ)算法的應(yīng)用
【「# ROS 2智能機(jī)器人開發(fā)實(shí)踐」閱讀體驗(yàn)】機(jī)器人入門的引路書
什么是機(jī)器人?追蹤機(jī)器人技術(shù)的發(fā)展和未來
名單公布!【書籍評測活動NO.58】ROS 2智能機(jī)器人開發(fā)實(shí)踐
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人的基礎(chǔ)模塊
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人大模型
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】1.初步理解具身智能
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】1.全書概覽與第一章學(xué)習(xí)
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+初品的體驗(yàn)
《具身智能機(jī)器人系統(tǒng)》第1-6章閱讀心得之具身智能機(jī)器人系統(tǒng)背景知識與基礎(chǔ)模塊
鴻蒙機(jī)器人與鴻蒙開發(fā)板聯(lián)動演示
柔性機(jī)器人與剛性機(jī)器人區(qū)別與聯(lián)系

評論