近日，騰訊旗下關(guān)注自動駕駛安全的科恩實驗室發(fā)布報告，稱特斯拉Model S轎車存在三大安全隱患，目前的實驗和測試表明，特斯拉S型轎車的轉(zhuǎn)向系統(tǒng)、自動雨刮器和車道識別系統(tǒng)均被攻破。特斯拉已發(fā)表回應(yīng)稱，轉(zhuǎn)向系統(tǒng)的缺陷已由系統(tǒng)更新修正，其他兩處則不屬于安全問題，無須擔心。

科恩實驗室稱，已經(jīng)通過遙控成功干擾了車輛的轉(zhuǎn)向系統(tǒng)。通過對抗性實例成功干擾了智能雨刮器。通過在道路上貼幾個小小的膠帶，就能成功誤導車輛的道路識別系統(tǒng)，將車導航至逆行道上。

對此，特斯拉方面迅速做出回應(yīng)，并未否認三處缺陷的存在。不過特斯拉同表示，此次曝光的這三處缺陷中，其中一處（轉(zhuǎn)向系統(tǒng)被遙控）已由最新軟硬件更新修正，而對于另外兩處缺陷，則表示科恩實驗室的實驗場景不可能在現(xiàn)實駕駛場景中遇到，不屬于安全問題，無須擔心。

以下是科恩實驗室報告核心內(nèi)容的選編，以及特斯拉的逐條回應(yīng)內(nèi)容：

騰訊Keen安全實驗室一直在進行Tesla車輛安全性研究工作，并在2017和2018年的美國Black Hat上分享了研究成果。 這次利用特斯拉自動駕駛系統(tǒng)（Tesla Autopilot ECU，軟件版本18.6.1）的ROOT權(quán)限，進行了一些有趣的研究。

簡單來講，實驗和測試證明了以下三點：

1、成功遠程控制車輛轉(zhuǎn)向系統(tǒng)

2、成功用對抗性實例干擾了自動雨刮器

3、成功誤導車輛駛?cè)肓朔聪蜍嚨?/p>

研究的特斯拉車輛的軟硬件信息如下：

車型：Tesla Model S 75

Autopilot硬件版本：2.5 軟件版本：2018年6月30日

對車輛轉(zhuǎn)向系統(tǒng)的遙控

APE是特斯拉高級駕駛輔助系統(tǒng)的核心組件，負責輔助駕駛和自動停車模式下的汽車轉(zhuǎn)向系統(tǒng)控制和電子速度控制。這些先進的輔助駕駛功能基于高級視覺和汽車總線（以太網(wǎng)，CAN，LIN，F(xiàn)lexRay）系統(tǒng)。

團隊采用的方法是動態(tài)地將惡意代碼注入cantx服務(wù)并掛鉤cantx服務(wù)的“DasSteering Control Message Emitter:: finalize_message（）”函數(shù)，以重用DSCM的時間戳和計數(shù)器來操縱具有任何轉(zhuǎn)向角度值的DSCM信息。

為了將遠程攻擊鏈在車輛轉(zhuǎn)向系統(tǒng)上進行可視化，使用游戲手柄演示遠程轉(zhuǎn)向控制。游戲手柄的轉(zhuǎn)向控制過程如下圖所示：手柄通過藍牙連接到移動設(shè)備。同時，移動設(shè)備從游戲手柄接收控制信號，并將信號轉(zhuǎn)換成相應(yīng)的DSCM。

一旦APE受到安全威脅，cantx服務(wù)將定期通過3G / Wi-Fi從移動設(shè)備中提取DSCM信息。此外，APE需要不斷將實時將車輛轉(zhuǎn)向角度推送至移動設(shè)備，以計算出預(yù)期的精確轉(zhuǎn)向角度。

?當汽車處于停車狀態(tài)時，我們可以無限制地控制轉(zhuǎn)向系統(tǒng)

?當通過換檔手柄將汽車從R（倒車擋）模式切換到D（駕駛擋）模式時，APE似乎仍然認為汽車處于APC（自動停車控制）模式，這時我們可以在時速不超過約8公里的情況下，繼續(xù)控制轉(zhuǎn)向系統(tǒng)。

?當汽車處于高速自適應(yīng)巡航控制模式時，我們也可以無限制地控制轉(zhuǎn)向系統(tǒng)。

?即使汽車不在ACC（自適應(yīng)巡航控制）模式下，方向盤也有機會被成功控制。

對自動雨刮器的成功干擾

傳統(tǒng)的雨刮器系統(tǒng)使用光學傳感器來檢測雨滴。當足夠的雨滴撞擊擋風玻璃時，反射到傳感器上的光量將減少到一定水平，使傳感器打開雨刮器。

特斯拉的自動雨刮器系統(tǒng)則使用完全不同的解決方案，該方案基于神經(jīng)網(wǎng)絡(luò)模型。實驗證實，這種解決方案在某些情況下似乎不如傳統(tǒng)方案可靠。

目標是測試特斯拉自動雨刮器的穩(wěn)健性。團隊創(chuàng)建一些條件，使自動雨刮器在擋風玻璃上沒有水的情況下自動開啟。創(chuàng)建用于“攻擊”系統(tǒng)的對抗性示例是一個非常直接的想法，因為整個系統(tǒng)完全基于深度神經(jīng)網(wǎng)絡(luò)。

團隊選擇了電子顯示（例如電視，平板電腦）以顯示物理世界中的補丁，這很容易執(zhí)行端到端測試，在真實攻擊場景中也更可行。

顯示器可以放在道路的一側(cè)，也可以放在前車的后座上（后者中國的出租車上很流行，后窗上經(jīng)常會顯示廣告），或攝像頭方便捕捉到的其他地方。然后使用優(yōu)化算法來生成對抗性圖片。我們直接用車輛來訓練算法并生成實例。

最后一個問題是要找到一種合適的方法來生成電視上顯示的圖像。我們嘗試了另一種叫做Worley噪音的噪音功能。在計算機圖形學中，它能夠以任意精度自動生成紋理，無需手工繪制。Worley噪聲能夠模擬石頭，水或其他噪音的紋理

我們在電視上播放對抗生成的圖像，其效果與向擋風玻璃灑水的效果相同。業(yè)內(nèi)沒有關(guān)于為何存在這種對抗性實例的統(tǒng)一解釋，但眾所周知，沒有基于神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)自動雨刮器解決方案不會出現(xiàn)這樣的問題。

雖然機器學習代表了技術(shù)的未來方向，但從消費者的角度來看，我們希望該技術(shù)可以具備更高的穩(wěn)定性。這部分實驗表明，我們可以通過一些算法直接攻擊真實世界中的圖像識別算法。

對自動尋路系統(tǒng)的攻擊：道路欺騙

“消滅”真車道

消除車道攻擊旨在通過物理世界中的一些不顯眼的標記來禁用APE車道識別。我們使用各種優(yōu)化算法來改變車道及其周圍區(qū)域。我們期望找到一個與原始圖像差別較小的對抗示例，但可以禁用車道識別功能。這些是我們生成的一些對抗性示例。

APE算法的穩(wěn)健性較高，這有可能是特斯拉車道識別算法訓練集中加入了大量異常車道的信息，匹配真實行車場景中車道的復(fù)雜性。這使得特斯拉車道識別系統(tǒng)在良好外部環(huán)境（無強光、雨雪、沙塵的干擾）下性能出眾。

“添加”假車道

實驗顯示，只需在道路上貼上幾個小小的貼紙（圖中紅色圓圈所示），就能成功誤導自動駕駛系統(tǒng)，使車輛走上對面的車道，造成逆行

之后我們嘗試在真實世界中構(gòu)建這樣一個場景：我們在路口處粘貼了一些小貼紙，作為地面上的干擾。我們希望使用這些干擾，將自動駕駛模式下的特斯拉車輛誤導到反向車道上。

如上所示的測試場景顯示，圖中的紅色短線是貼紙，車輛將其視為右側(cè)車道的延續(xù)，并忽略交叉路口對面的的實際左側(cè)車道。當它行駛到交叉路口的中間時，會將真正的左車道作為右車道行駛，造成逆行。

結(jié)論

我們對特斯拉汽車APE上的CAN總線系統(tǒng)，然后使用游戲手柄通過無線網(wǎng)絡(luò)驅(qū)動汽車，這表明攻擊者在進入APE模塊后可能造成的潛在安全威脅。

我們通過靜態(tài)逆向工程和動態(tài)調(diào)試分析了APE的視覺系統(tǒng)。根據(jù)研究結(jié)果，我們在真實世界中進行了一些實驗測試，并成功使特斯拉APE在我們的攻擊下表現(xiàn)異常。這表明，通過一些真實環(huán)境下的干擾，我們可以在某種程度上實現(xiàn)遠程控制車輛。

我們希望制造商能夠關(guān)注這些測試所暴露的潛在產(chǎn)品缺陷，并提高其面向消費者的汽車產(chǎn)品的穩(wěn)定性和可靠性。

特斯拉回應(yīng)：未否認問題存在，但不屬于安全問題，無須擔心

關(guān)于 “雨刷的視覺識別缺陷”（成果一）的回應(yīng)：

“實驗通過在直接放置在汽車擋風玻璃前面的電視上顯示圖像。司機實際駕駛不會出現(xiàn)這種情況，此缺陷也不屬于安全問題。此外，我們在“用戶手冊”中已經(jīng)表明，“我們的擋風玻璃雨刮器的自動設(shè)置目前處于測試階段?！笨蛻艨梢噪S時選擇使用手動擋風玻璃雨刮器的設(shè)置。

關(guān)于 “車道的視覺識別缺陷”（成果二）的回應(yīng)：

“在這次演示中，研究人員調(diào)整了車輛周圍的物理環(huán)境（例如在道路上放置貼紙），讓自動駕駛模式下的汽車動作出現(xiàn)差異。由于駕駛員可以隨時使用方向盤或剎車輕松接管自動駕駛系統(tǒng)，所以這個問題在現(xiàn)實場景中也無需擔心?！?/p>

關(guān)于 “遙控器操控車輛行駛”（成果三）的回應(yīng)：

“報告中提到的這一漏洞已由特斯拉在2017年強大的安全更新修復(fù)，隨后在2018年又一次進行了全面安全更新，在此報告發(fā)布前，技術(shù)團隊已經(jīng)發(fā)布了安全更新。我們尚未收到一位客戶受到本報告中任何研究的影響。”