在道路上放置一些簡單的貼紙就能欺騙特斯拉Model S進入反向車道?游戲手柄就能操控車輛行駛?圖像干擾能自動啟動雨刷?
是的,根據近日騰訊科恩實驗室的一項報告,特斯拉自動駕駛系統存在以下三大漏洞:
Auto-wipers視覺識別缺陷
特斯拉自動駕駛儀可以通過圖像識別技術識別潮濕天氣,然后在必要時打開雨刷。根據科恩實驗室的研究,可以在物理世界中巧妙完成一個對抗性的例子,系統將受到干擾并返回“不正確”的結果,然后打開雨刷。
車道識別缺陷
特斯拉Autopilot通過識別道路交通標記識別車道并協助控制。基于這項研究,可以證明,通過在路上放置干擾貼紙,自動駕駛系統將捕獲這些信息并做出異常判斷,從而使車輛進入反向車道。
使用游戲手柄控制轉向系統
在特斯拉Model S(版本號2018.6.1)上的自動駕駛儀系統遭到破壞之后,Keen Lab進一步證明了可以通過帶有無線游戲手柄的自動駕駛系統控制轉向系統,即使駕駛員未啟動自動駕駛系統也是如此。
報告下載地址:
https://keenlab.tencent.com/en/whitepapers/Experimental_Security_Research_of_Tesla_Autopilot.pdf
這份報告詳細描述了三種對特斯拉自動駕駛汽系統進行攻擊的可能,包括對轉向的遠程控制,以及對自動駕駛儀的敵對示例攻擊。
特斯拉創始人Elon Musk也發推特贊揚了騰訊科恩安全實驗室(Tencent Keen Security Lab)所發現的這一漏洞報告。
自動雨刷以及遙控器操控車輛行駛測試
這份報告除了對特斯拉Autopilot的車道識別功能進行測試之外,還對雨刷的視覺識別、遙控器操控車輛行駛這兩個功能進行了測試。
特斯拉Autopilot系統借助圖像識別技術,通過識別外部天氣狀況實現自動雨刷功能。科恩實驗室通過研究發現,利用AI對抗樣本生成技術生成特定圖像并進行干擾時,該系統輸出了“錯誤”的識別結果,導致車輛雨刷啟動。
另外,利用已知漏洞在特斯拉Model S(版本2018.6.1)獲取Autopilot控制權之后,科恩實驗室通過實驗證明,即使Autopilot系統沒有被車主主動開啟,也可以利用Autopilot功能實現通過游戲手柄對車輛行駛方向進行操控。
具體操作步驟
為了實現遠程控制方向盤攻擊,研究人員必須越過幾個冗余保護層,之后,研究人員編寫了一個應用程序,該程序可讓研究人員將視頻游戲控制器與移動設備相連,然后控制目標車輛,越過真正的車內方向盤以及自動駕駛系統。但是此類攻擊具有一定的局限性:當車輛處于停止狀態(P檔),或是在巡航控制下高速行駛時,研究人員可以完全接管該車;但是剛剛從R檔(倒車檔)換到D檔(型車檔)的汽車只有在時速為8公里/時時,才能被遠程控制。
特斯拉汽車使用多種神經網絡來實現自動駕駛和其他功能(例如可以檢測擋風玻璃上的雨水并打開雨刷器的神經網絡);研究人員能夠采用對抗樣本,對神經網絡做出非常小、且大多無法被人類察覺的改變,導致機器學習系統發生嚴重的錯誤,從而達到攻擊目的。
最引人注目的是,研究人員攻擊了特斯拉自動駕駛系統autopilot的車道檢測系統。通過在車道標記上增加干擾,能夠欺騙自動駕駛系統,讓其完全無法檢測車道,但是,研究人員在車道標記上應用的干擾措施,對于人類來說,很容易就可發現。
OMT
其實,這不是科恩實驗室第一次針對特斯拉的漏洞展開研究。
在2018年Black Hat USA大會上,科恩實驗室就曾發表相關議題,面向全球首次公布了針對特斯拉Autopilot系統的遠程無接觸攻擊,之后相關攻擊鏈已經被特斯拉修復。
關于研究人員使用的攻擊鏈,已經透漏給了特斯拉,特斯拉表示現在已經通過最新補丁,消除了該攻擊鏈。
-
圖像識別
+關注
關注
9文章
524瀏覽量
38477 -
特斯拉
+關注
關注
66文章
6347瀏覽量
127004 -
自動駕駛
+關注
關注
785文章
13970瀏覽量
167422
原文標題:騰訊科恩實驗室曝特斯拉自駕系統三大漏洞,獲馬斯克稱贊
文章出處:【微信號:BigDataDigest,微信公眾號:大數據文摘】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
一文聊聊自動駕駛測試技術的挑戰與創新


評論