自2004年美國(guó)國(guó)防部高級(jí)研究計(jì)劃局(DARPA)大挑戰(zhàn)賽的參賽者中沒(méi)有一人成功完成比賽以來(lái)，自動(dòng)駕駛汽車已經(jīng)走過(guò)了很長(zhǎng)一段路。現(xiàn)在，特斯拉已經(jīng)在公共道路上進(jìn)行了多次測(cè)試，并向選定的車主發(fā)布了一款測(cè)試版的全自動(dòng)駕駛汽車。但在我們讓汽車替我們駕駛之前還有一個(gè)主要問(wèn)題需要解決，并不是技術(shù)問(wèn)題，而是一個(gè)道德問(wèn)題。

想象一下，一輛自主汽車在它行駛的道路上發(fā)現(xiàn)一個(gè)行人，并且行駛速度太快，無(wú)法安全停車。它有兩個(gè)選擇，要么它嘗試停下來(lái)，但可能會(huì)撞死行人。或者，它可以避開(kāi)行人，但很可能會(huì)撞到障礙物，導(dǎo)致乘車人受傷或死亡。它會(huì)選擇哪一個(gè)?

這聽(tīng)起來(lái)像是一個(gè)簡(jiǎn)單的選擇，但是你越仔細(xì)想，就會(huì)發(fā)現(xiàn)更多的細(xì)微差別。如果行人是母親和孩子怎么辦?如果車?yán)锶呛⒆釉趺崔k?如果猛剎車很可能意味著后面的車也發(fā)生了事故呢?換句話說(shuō)，自動(dòng)駕駛汽車必須計(jì)算出對(duì)人類生命造成的傷害最小的情況，這意味著它可能會(huì)決定傷害甚至殺死乘客來(lái)保證造成的傷害最小。

作為人類駕駛員，我們會(huì)很自然地做出這些決定。一只狗跑到路上，我們會(huì)剎車，試圖避開(kāi)這只狗，但如果無(wú)法避免要有一方受到傷害，我們大多數(shù)人會(huì)選擇殺死這只狗，而不是傷害我們自己和車上的人。我們會(huì)盡量不傷害狗，但不能以自己的生命為代價(jià)。如果是孩子在路上，我們可能會(huì)寧愿讓自己受傷，以防止或減少對(duì)孩子的傷害。但我們?nèi)匀徊粫?huì)為了避免傷害孩子而轉(zhuǎn)向迎面開(kāi)來(lái)的車輛。

然而，問(wèn)題并不僅僅在于受到的傷害最小。如果發(fā)生事故，誰(shuí)負(fù)責(zé)?如果行人亂穿馬路，也許是他們的錯(cuò)，他們比車上的人更應(yīng)該受傷。但是，如果自動(dòng)駕駛系統(tǒng)已經(jīng)決定了要傷害誰(shuí)、保護(hù)誰(shuí)，那么發(fā)生事故時(shí)是司機(jī)的錯(cuò)？汽車制造商的錯(cuò)》還是編寫(xiě)自動(dòng)駕駛軟件的公司的錯(cuò)?

當(dāng)特斯拉使用自動(dòng)轉(zhuǎn)向和自適應(yīng)巡航控制系統(tǒng)的汽車發(fā)生事故時(shí)，我們已經(jīng)看到關(guān)于這種問(wèn)題的一些爭(zhēng)論。這種情況并不常見(jiàn)，但當(dāng)與自動(dòng)駕駛相關(guān)的事故確實(shí)發(fā)生時(shí)，問(wèn)題就在于司機(jī)是否應(yīng)該做得更多，還是由于系統(tǒng)未能正確發(fā)揮作用，認(rèn)為特斯拉應(yīng)該承擔(dān)責(zé)任。
即使特斯拉說(shuō)按照說(shuō)明使用，自動(dòng)駕駛汽車不會(huì)造成事故，也無(wú)法保證這種有爭(zhēng)論性的問(wèn)題不會(huì)發(fā)生。類似地，大約三年前，優(yōu)步停止了無(wú)人駕駛出租車的試驗(yàn)，因?yàn)橐惠v出租車在評(píng)估影響之后撞死了一名行人。

我們也不能想當(dāng)然地認(rèn)為，無(wú)論在哪里，這些問(wèn)題的答案都是一樣的，因?yàn)樗鼈儾幌裎锢矶桑谑澜缟先魏蔚胤降拇鸢付际墙y(tǒng)一的。幾年前發(fā)表在《自然》(Nature)雜志上的一項(xiàng)研究表明，這些涉及倫理的決定并不具有普遍性，它們因文化而異。這項(xiàng)調(diào)查使用的是麻省理工學(xué)院的“道德機(jī)器”(Moral Machine)，覆蓋了全球230萬(wàn)人，并有一些有趣的發(fā)現(xiàn)。例如，與貧困地區(qū)相比，富裕國(guó)家的人們不太可能對(duì)亂穿馬路的行人施以援手。現(xiàn)在仍然可以在道德機(jī)器的專門(mén)網(wǎng)站上看到它提出的場(chǎng)景。

自動(dòng)駕駛系統(tǒng)的開(kāi)發(fā)人員至少考慮到了道德層面。眾所周知，Waymo開(kāi)發(fā)團(tuán)隊(duì)聘請(qǐng)了一些人來(lái)增加道德方面的考量。然而，在自動(dòng)駕駛成為主流之前，這個(gè)問(wèn)題必須得到解決。這個(gè)問(wèn)題解決之后將帶來(lái)巨大的好處，因?yàn)榇蠖鄶?shù)研究證實(shí)，自動(dòng)駕駛汽車將比人類司機(jī)更安全，因?yàn)椴粫?huì)疲勞或被手機(jī)分心。

事實(shí)上，蘭德公司有一個(gè)方便的工具，可以根據(jù)各種參數(shù)計(jì)算出多少生命將被挽救。即使假設(shè)自動(dòng)駕駛汽車只比人類駕駛員安全10%，在未來(lái)幾十年里，隨著系統(tǒng)的引入，也會(huì)挽救數(shù)十萬(wàn)人的生命，而且大多數(shù)理論家認(rèn)為自動(dòng)駕駛汽車將比這一假設(shè)的數(shù)據(jù)安全得多。

總的來(lái)說(shuō)，我們不能認(rèn)為自動(dòng)駕駛汽車的問(wèn)題純粹是技術(shù)問(wèn)題。顯然，最重要的是能夠成功地導(dǎo)航道路布局和標(biāo)記，能夠根據(jù)交通速度和天氣等條件變化。但一旦他們掌握了這種技能(現(xiàn)在看來(lái)非常接近)，倫理和道德層面的問(wèn)題就會(huì)凸顯出來(lái)。無(wú)人駕駛汽車也需要具備道德考量，因?yàn)樵诖酥埃瑹o(wú)人駕駛汽車將備受爭(zhēng)議。但這是一個(gè)亟須解決的問(wèn)題，因?yàn)殡S著我們的道路變得越來(lái)越擁擠，安全和駕駛效率將是一個(gè)重大問(wèn)題。

原文鏈接：

https://www.forbes.com/sites/jamesmorris/2021/02/13/self-driving-cars-wont-go-mainstream-until-we-solve-this-problem/?sh=758055bf2f3b

編輯：jq