要說過去十年來自動駕駛世界最重要的時(shí)刻,恐怕不得不提一年前那個(gè)夜晚。
當(dāng)晚 10 點(diǎn)左右,Elaine Herzberg 悠閑的推著自行車過馬路,但令她意想不到的是,一輛沃爾沃 XC90 徑直沖過來結(jié)束了她的生命,而這輛車可是“武裝到牙齒”的 Uber 自動駕駛測試車。
Herzberg 的死就像在陷入白熱化的自動駕駛競賽頭上結(jié)結(jié)實(shí)實(shí)的潑了一盆冷水,對于一項(xiàng)要改變世界并拯救生命的技術(shù)來說簡直是莫大的諷刺。
雖然這一灰暗時(shí)刻不會阻擋世界繼續(xù)向自動駕駛未來進(jìn)發(fā),但它確實(shí)給了我們一個(gè)重要機(jī)會,讓我們能停下來等等失落的靈魂,想想這起悲劇為何會發(fā)生,我們又能從中學(xué)到什么以防止悲劇重演?
第一課:這不是一場競賽
與其他致命的技術(shù)災(zāi)難類似,Elaine Herzberg 的死也是一系列錯誤的多米諾骨牌相繼倒下導(dǎo)致的:
首先,Uber 的軟件出了問題,而這個(gè)問題還碰上了在車上不???a href="http://m.xsypw.cn/v/tag/107/" target="_blank">手機(jī)的安全駕駛員。
其次,測試車速度太快,Uber 的監(jiān)管也不夠。
最后,發(fā)生事故的道路基礎(chǔ)設(shè)施太差(當(dāng)然還有其他各種因素)。
歸根結(jié)底,這場悲劇的罪魁禍?zhǔn)走€是所謂贏家通吃的自動駕駛“競賽”,大家都?xì)⒓t了眼,不顧后果。
這個(gè)所謂的自動駕駛競賽幾乎成了大家眼中的“超級圣杯”:
一方面,創(chuàng)業(yè)公司打著它的大旗從風(fēng)投那里融資。
另一方面,風(fēng)投則用它來證明自己獨(dú)具慧眼。
媒體更是將這場競賽當(dāng)成了一個(gè)好的故事架構(gòu),其中的悲歡離合都是賺人眼球的超級流量。
自動駕駛競賽確實(shí)是個(gè)誘人的宏大敘事,它讓你感覺自己正在見證歷史,甚至普通人都能判斷到底哪家巨頭能笑到最后,即使他們根本理解不了這項(xiàng)技術(shù)的復(fù)雜性。
與歷史上許多漏洞百出的探索一樣,自動駕駛競賽創(chuàng)造的宏大語境不但拉低了研發(fā)難度,同時(shí)也掩蓋了一個(gè)最基本問題:那就是“如果這是一場競賽,它的終點(diǎn)線到底在哪?”
說實(shí)話,自動駕駛競賽這個(gè)說法其實(shí)成了 Herzberg 悲劇的導(dǎo)火索。
因?yàn)樵谶@個(gè)宏大的語境下,每個(gè)人都在追逐終點(diǎn),大家不計(jì)成本、忽視監(jiān)督、超常加班,甚至為了盡早上路測試掩蓋一些“小毛病”。
Herzberg 的悲劇驚醒了一部分瘋狂沖刺的人,但自動駕駛行業(yè)依然有許多人繼續(xù)玩著“速度與激情”,為的是拿到更多融資或者在這個(gè)擁擠的行業(yè)顯得鶴立雞群。
如果開發(fā)者、監(jiān)管者、政府和媒體還是無法理解這場瘋狂競賽到底要付出多大成本,恐怕 Herzberg 的悲劇未來還會重演。
第二課:公司文化建設(shè)不能停
Herzberg 的悲劇發(fā)生前不久,自動駕駛行業(yè)的一場風(fēng)暴才剛剛平息,而 Uber 當(dāng)時(shí)就處在風(fēng)暴核心。
這場風(fēng)暴其實(shí)你也能猜到,那就是 2018 年 2 月初以和解告終的 Waymo 大戰(zhàn) Uber。兩家公司因?yàn)榧す?a target="_blank">雷達(dá)技術(shù)對簿公堂,Waymo 最終打得 Uber 自動駕駛部門元?dú)獯髠?。而在此之?Uber 內(nèi)部還經(jīng)歷了一次大動亂,甚至 Uber 創(chuàng)始人 Kalanick 被“罷黜”。
在法庭上,Waymo 律師 Charles Veerhoven 就指出,在 Kalanick 統(tǒng)治下,“贏才是一切,即使會違法法律”,這是 Uber 的信條。這種方式已經(jīng)深深烙印在了 Uber 的公司文化中。
事實(shí)上,Uber 測試車在舊金山上路初期,曾 6 次被抓到闖紅燈,但即使這樣 Uber 也要強(qiáng)行上馬亞利桑那項(xiàng)目。即使 Kalanick 被離職后,Uber 的工程師還是大膽的“摘掉了”車輛的緊急剎車系統(tǒng),而他們這樣做就是為了讓新任 CEO Dara Khosrowshahi 有個(gè)更為流暢的試乘體驗(yàn)。
總結(jié)來說,瘋狂沖刺、躲避監(jiān)管和操縱感知就是 Uber 公司文化的核心元素,這樣的爛攤子能不出事嗎?
在美國,每年交通事故會奪去 3.5 萬條生命,這就意味著自動駕駛汽車的開發(fā)可不能像移動應(yīng)用或社交網(wǎng)絡(luò)一樣,安全才是整個(gè)項(xiàng)目的核心,它貫穿始終,同時(shí)也是最難的部分。
如果哪家公司的文化中忽視了這一點(diǎn),恐怕早晚會遭報(bào)應(yīng)。
第三課:人類真是不擅長監(jiān)督
自動駕駛技術(shù)原本是要降低道路風(fēng)險(xiǎn)的,但現(xiàn)在卻成了壓力倍增器,因?yàn)轳{駛員一個(gè)不小心可能就會闖大禍。
對人類來說,監(jiān)督車輛行駛是個(gè)巨大挑戰(zhàn),因?yàn)檫@個(gè)過程太無聊,安全駕駛員很容易就會盲目相信系統(tǒng),被其他事物引誘地開小差。
Herzberg 的死,安全駕駛員 Vasquez 也得負(fù)責(zé)任。車上的監(jiān)控視頻顯示,在當(dāng)晚的測試中,她居然低頭看了 166 次手機(jī),而監(jiān)控畫面中 Vasquez 驚恐的表情未來恐怕還是會一而再再而三的發(fā)生,因?yàn)椤摆吚芎Α笔侨说奶煨浴?/p>
其實(shí)這樣的“毛病”在安全駕駛員群體還是比較少見的,因?yàn)樗麄兤毡榻?jīng)過嚴(yán)格訓(xùn)練,而且測試時(shí)都“出雙入對”。不過,普通人就沒那么高“覺悟”,比如拿橘子夾在特斯拉的方向盤上“玩大撒把”的視頻就是明證,
一旦哪天他們耗光了運(yùn)氣,恐怕就得“親人兩行淚”。
第四課:無辜的路人惹誰了?
在事故的后續(xù)調(diào)查中,Uber 的激光雷達(dá)供應(yīng)商 Velodyne 承認(rèn),自家傳感器確實(shí)沒能識別出 Herzberg 過馬路時(shí)推著的那輛自行車。
眼下,出于自保的目的,自動駕駛測試車搭載的傳感器識別起堅(jiān)固的物體更在行,也就是說行人和自行車被犧牲掉了,一旦遇到夜晚、強(qiáng)光或其它惡劣天氣,傳感器可能就會成為殺人幫兇。
其實(shí)這也是各家公司選擇鳳凰城的原因,這里不但天氣條件好,路上還沒什么人。
一年之后,還是沒有多少公司為測試車添加熱成像傳感器(幾乎不受天氣狀況的影響),以專門照顧無辜的路人,實(shí)在是令人失望。
好在,豐田研究所已經(jīng)承諾,其新傳感器套件會納入熱成像傳感器,畢竟想在城市部署,就必須考慮到行人的因素。
第五課:政府部門可不能“腦子一熱”
在加州的路測執(zhí)照被收回后,Uber 干脆移師亞利桑那,那里的州長 Greg Ducey 為了將本州打造成創(chuàng)新帶頭人,對所有自動駕駛公司敞開懷抱。
除此之外,亞利桑那還專門為這些公司降低了監(jiān)管門檻,方便它們“野蠻生長”。這樣的政策確實(shí)出了奇效,很短時(shí)間內(nèi)亞利桑那就發(fā)展成了自動駕駛測試的大本營,直到 Uber 那起致命車禍。
Uber 測試車惹了大麻煩后,Ducey 州長態(tài)度直接轉(zhuǎn)了 180 度,他對 Uber 在亞利桑那的測試車“判了死刑”。亞利桑那的政府部門更是急于撇清與 Uber 的關(guān)系,甚至開始擔(dān)心其他公司也給自己惹事。
亞利桑那的經(jīng)驗(yàn)也給其他州的政府部門提了個(gè)醒:“腦子一熱”可是容易給自己惹大麻煩。降低監(jiān)管門檻短期內(nèi)確實(shí)有很強(qiáng)的誘惑,但其長期風(fēng)險(xiǎn)也相當(dāng)巨大。
從宏觀角度來看,如果放棄監(jiān)管,還可能會給自己招來人身傷害的訴訟。政府部門要么主動平衡公共安全與路測的關(guān)系,要么就降低標(biāo)準(zhǔn)為路測開口,出了事被憤怒的公眾口水淹沒。
顯然,誰都會走第一條路。
第六課:法律責(zé)任的劃分必須跟上技術(shù)發(fā)展
Herzberg 的死引出了一個(gè)全社會都還沒準(zhǔn)備好回答的難題:
如果自動駕駛真出事了,到底誰該承擔(dān)責(zé)任?自動駕駛軟件能算“人”嗎?它能和人類駕駛員享用相同的權(quán)力并接受相應(yīng)的限制嗎?此外,安全駕駛員算責(zé)任方嗎?自動駕駛公司又該付多少責(zé)任?還有監(jiān)管部門呢?
既然事故都出了,現(xiàn)在我們就必須對這些問題進(jìn)行回答了。
一直以來,自動駕駛技術(shù)都被當(dāng)做一個(gè)純技術(shù)問題,但事實(shí)上,駕駛卻是一個(gè)由法律約束的嚴(yán)肅社會活動。
一方面來說,Herzberg 的死喚醒了全社會,新的規(guī)則和原則開始逐步成型,以便再次遇到事故時(shí)分配責(zé)任。
另一方面,類似熱成像傳感器的問題依舊存在,大家還是不緊不慢,好像是對這場致命事故熟視無睹。
這可不是要解決問題的態(tài)度,我們對精通技術(shù)法律專家和政客的需要與對天才自動駕駛工程師的追逐必須一樣迫切,至少不能讓 Herzberg 的悲劇重演。
第七課:高層們要聽得進(jìn)“忠言逆耳”
就在 Uber 致命事故發(fā)生前不到一個(gè)星期,名為 Robbie Miller 的 Uber 員工還專門給公司 ATG 和法務(wù)部門的高層寫了封郵件。
在這封郵件中,Miller 提到了許多問題,并警告高層這些問題可能會帶來嚴(yán)重后果。
不過,這封郵件高層們恐怕只理解了一半:
“ATG 還得繼續(xù)努力,這樣才能將安全理念深植于公司文化中。汽車一旦發(fā)生事故就會造成嚴(yán)重的后果,而自動駕駛技術(shù)不過關(guān)和人類司機(jī)的錯誤操作都會引發(fā)悲劇。我們不能每隔 1.5 萬英里就撞上點(diǎn)什么東西,這樣循環(huán)往復(fù)早晚會出大事,而且公司有些安全司機(jī)明顯培訓(xùn)不夠,他們經(jīng)常開小差?!?/p>
在郵件中,Miller 還推薦了一些方案以改變 ATG 當(dāng)時(shí)的作風(fēng),而這些方案現(xiàn)在基本已經(jīng)成了行業(yè)通行的標(biāo)準(zhǔn),比如一輛測試車配備多名安全駕駛員,別為了累積測試?yán)锍潭鴾y試,授權(quán)員工有危險(xiǎn)立即停止測試,建立事故研究機(jī)制,在各部門間分享數(shù)據(jù)等。
現(xiàn)在看來,如果當(dāng)時(shí) ATG 按照 Miller 的方法對各部門進(jìn)行整頓,Herzberg 的悲劇就不會發(fā)生。
第八課:基礎(chǔ)設(shè)施至關(guān)重要
自動駕駛開發(fā)者不愿讓自己的系統(tǒng)受制于人,因此他們拒絕承認(rèn)基礎(chǔ)設(shè)施的重要性,無論是特殊的街道功能設(shè)計(jì)抑或 V2X 通訊技術(shù)。
這種做法其實(shí)可以理解,因?yàn)榧夹g(shù)總是飛速發(fā)展,而基礎(chǔ)設(shè)施卻無法及時(shí)跟上腳步。
不過,無數(shù)殘酷的事實(shí)卻告訴我們,基礎(chǔ)設(shè)施在自動駕駛安全方面有自己的一席之地,而當(dāng)?shù)卣仨毐WC自己管轄的街道不會讓各種車輛“打架”。
Herzberg 出事的那個(gè)地方在全世界都有“翻版”,這里沒有斑馬線但并不禁止行人通行。我們不知道 Herzberg 選擇在這里過馬路前想了什么,也許她只是圖方便。但可以肯定的是,這條路在功能設(shè)計(jì)上有問題,無法有效阻止事故發(fā)生。
所以,如果哪座城市未來想引入自動駕駛汽車,必須記住這個(gè)教訓(xùn):對基礎(chǔ)設(shè)施配套進(jìn)行改造。否則真的會吃不了兜著走。
第九課:反對自動駕駛汽車的大有人在
從自動駕駛汽車誕生第一刻,公眾就對它持懷疑態(tài)度,但后續(xù)不停的宣傳攻勢開始讓大家的扭轉(zhuǎn)看法。
Herzberg 的事故之后,公眾再次對自動駕駛汽車投了不信任票,就連特朗普都在公共場合表示“自動駕駛永遠(yuǎn)成不了”。
其實(shí)這只是又一次的盧德主義(工人砸毀機(jī)器)抬頭罷了,Waymo 的測試車在亞利桑那也沒少受攻擊,對于這種情況自動駕駛開發(fā)者及其堅(jiān)定支持者們無法苛求太多。
而且別忘了,Uber 的這次致命事故就來自高科技行業(yè)的傲慢自大,有人站出來反對自動駕駛汽車也是它們咎由自取。
眼下,這也是自動駕駛汽車面臨的主要文化障礙:
一般來說,高科技公司會用各種經(jīng)濟(jì)補(bǔ)貼來掃清前進(jìn)道路上的障礙(想想打車公司的狂飆突進(jìn))。
在自動駕駛汽車上,由于各家公司離實(shí)現(xiàn)自己的承諾還很遙遠(yuǎn)。因此對公眾進(jìn)行教育,與他們深入溝通變得更加重要。由于自動駕駛的復(fù)雜性和各種疑惑的存在,這個(gè)任務(wù)會變得相當(dāng)艱巨。
不過,降低姿態(tài)并放下科技行業(yè)的傲慢,真誠與公眾溝通肯定能有收獲。即使依然一無所獲,科技行業(yè)也不能再用“我代表著歷史潮流”來安慰自己,對各種風(fēng)險(xiǎn)無動于衷。
第十課:信任是自動駕駛技術(shù)的現(xiàn)金流
從最基本的層面來說,信任其實(shí)就是穩(wěn)定的長期關(guān)系。
信任某人或某事意味著他會在合適的時(shí)候出現(xiàn),想你所想,解你所困。這也是亞利桑那的自動駕駛事業(yè)遭遇巨大挫折的原因:政府選擇信任自動駕駛公司并為其降低門檻,但 Uber 卻最終用一場致命事故讓政府蒙羞。這樣的做法無法建立信任,只會埋葬一切。
Herzberg 的死是一系列不負(fù)責(zé)任行為的必然結(jié)果。
也許未來還會有人被自動駕駛汽車奪去生命,但我們需要的是自動駕駛公司的真誠和透明,而不是事前吹得天花亂墜,事后卻告訴我們現(xiàn)實(shí)其實(shí)很殘酷。
自動駕駛公司必須承認(rèn),在路測中有些風(fēng)險(xiǎn)不可避免,但自己已經(jīng)在努力化解,而不是藏著掖著把風(fēng)險(xiǎn)不當(dāng)回事,昧著良心賺黑錢。
對自動駕駛開發(fā)者來說,建立信任與創(chuàng)造出強(qiáng)大的預(yù)測模型或可靠的路徑規(guī)劃算法一樣重要,因?yàn)樽詣玉{駛汽車最終必須與飛機(jī)看齊:當(dāng)你步入飛機(jī)機(jī)艙時(shí),必須要有強(qiáng)烈的安全感。鑒于自動駕駛汽車已經(jīng)沒了操控或性能等賣點(diǎn),因此真正值得各家公司大吹特吹的也只有消費(fèi)者的信任了。
如果哪家公司不愿融入當(dāng)?shù)厣缛?,不愿透露道路風(fēng)險(xiǎn)、不愿接受監(jiān)管、為了高估值不顧一切,它們最終肯定會引火自焚。當(dāng)然,受傷的還有路上的無辜群眾。
評論