乾明 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
怎樣能把一輛特斯拉忽悠“瘸”了?最近兩名研究人員給出了答案:
用一條2英寸的膠帶就夠了。
他們用膠帶對公路上的速度標識進行修飾後,成功欺騙2016年版特斯拉的攝像頭系統,誘使其出現了50英里/小時(80公里/小時)的異常加速。
![特斯拉被一條膠帶忽悠,將35“看成”85,異常加速80公里/小時](http://p2.ttnews.xyz/loading.gif)
在不少網友看來,這反映了自動駕駛系統在“環境”方面的缺陷。同樣有不少網友認為,這是在特定條件下實現的攻擊,並不能產生太多的影響。
那麼,事實究竟如何?特斯拉上的這一缺陷會產生多大的影響?我們從實驗開始說起,一一解讀。
用膠帶忽悠特斯拉始末
誘騙特斯拉的兩名人員來自全球最大的安全公司之一McAfee。他們使用膠帶的方法也很簡單:
在35英里/小時的速度標誌上,貼了一條2英寸的黑色膠帶,略微拉長了數字“3”的中間線。
修改後的速度標誌看起來是這樣的:
![特斯拉被一條膠帶忽悠,將35“看成”85,異常加速80公里/小時](http://p2.ttnews.xyz/loading.gif)
然後特斯拉的自動駕駛系統,“看到”這個標誌之後,就直接從35英里(56公里)/小時加速到了85英里(136公里)/小時。
這在機器學習領域也不是個例。此前谷歌的InceptionV3圖像分類器就將打印出來的烏龜識別成了步槍,從而引發了對人工智能是否可靠的討論。
他們先在一輛Model X上測試,其後在Model S得到驗證,測試用的汽車都是2016年推出,其後他們測試了新款特斯拉,發現沒有出現這一問題。
因此他們認為,出現這種情況的原因在於特斯拉使用的攝像頭系統:MobilEye EyeQ3。
一個有趣的事實是,McAfee前身是英特爾的安全部門,現在也是英特爾旗下合資公司。不過此前有報道稱,英特爾和McAfee另一個大股東TPG準備將其出售。
而MobilEye,在2017年被英特爾150億美元收購,成為英特爾旗下佈局自動駕駛產業的排頭兵。
所以,McAfee發現特斯拉漏洞,也算是一家準備被英特爾賣掉的安全公司,發現了英特爾旗下自動駕駛公司的關鍵問題。
據MIT科技評論報道,McAfee在2019年就向特斯拉和MobiEye EyeQ3同步了這一研究,卻得到了不同的回應。
各方回應:就算人看到也會誤讀
特斯拉並沒有對這一研究發表評論,但表示並不會解決他們發現的問題。MobilEye EyeQ3則是反駁了這項研究。
MIT科技評論報道稱,一名MobilEye EyeQ3的發言人說,就算是人類看到修改後的標誌也會誤讀;這一款攝像頭並不是為全自動駕駛設計;他們將會採用“眾包地圖”在內的多種技術支持攝像頭。
雖然2016年之後,特斯拉就放棄了MobilEye EyeQ3,轉而採用自研的攝像頭系統,並沒有發現問題,而且MobilEye EyeQ3後續推出的攝像頭沒有被誘騙。
但在McAfee研究人員看來,這仍舊令人擔憂。現在依舊有不少人在公路上駕駛2016年版的Model S和Model X,使用的依舊是MobilEye EyeQ3,應該值得重視。
“我們不是要散播恐懼”,他們說,“我們進行這項研究,是為了提高消費者和供應商對可能存在的各種缺陷的認識。”
這種擔憂有其道理,多起車禍的發生,也讓特斯拉的自動駕駛系統備受關注。
去年,美國交通部門調查兩起特斯拉致命撞車事故發現,事故發生時Autopilot均處於開啟狀態。
近日,美國國家運輸安全委員發佈數據,證實蘋果工程師Walter Huang駕駛特斯拉出現車禍時的場景:Autopilot總是朝著一個方向轉向。
特斯拉對外的口徑是,Autopilot並不意味著完全自動駕駛,司機必須始終將手放在方向盤上。
出現種種事故,並沒有打消馬斯克對自動駕駛系統的狂熱。他去年還放出豪言,將在2019年年底推出完全自動駕駛系統。
現在來看,這一規劃顯然落空了,但他之後依舊堅持:可能會在幾個月裡完成所有的功能,特斯拉完全自動駕駛即將到來。
參考鏈接:
https://www.businessinsider.com/hackers-trick-tesla-accelerating-85mph-using-tape-2020-2
https://www.technologyreview.com/s/615244/hackers-can-trick-a-tesla-into-accelerating-by-50-miles-per-hour/
— 完 —
量子位 QbitAI · 頭條號簽約作者
關注我們,第一時間獲知前沿科技動態
閱讀更多 量子位 的文章