自動駕駛汽車為何失控？“路面污漬”可能是元兇

　　新華社北京8月13日電（記者彭茜）一塊普通的“路面污漬”竟能迷惑智能的自動駕駛汽車，在1秒內(nèi)就導(dǎo)致車輛失控偏離行駛車道。一項國際研究新近證實了這一可能，再度引發(fā)公眾對自動駕駛汽車安全性的關(guān)注。

　　自動駕駛技術(shù)有時候并沒有人們想象的那樣聰明，一些人類可輕易識別的“小把戲”卻能完全迷惑自動駕駛汽車。比如，在交通標(biāo)志上貼一些惡意貼紙或涂鴉，就有可能導(dǎo)致自動駕駛汽車錯誤地將停車標(biāo)志識別為限速標(biāo)志。

　　美國加利福尼亞大學(xué)歐文分校、美國東北大學(xué)等機(jī)構(gòu)的研究人員最新研究發(fā)現(xiàn)，一些偽裝為路面污漬圖案的攻擊補(bǔ)丁可誤導(dǎo)自動駕駛汽車上的自動車道居中輔助系統(tǒng)（ALC），導(dǎo)致車輛偏離其行駛車道，造成嚴(yán)重交通危害。該研究成果已于北京時間12日在線發(fā)表于第30屆“USENIX Security”會議上。這是信息安全領(lǐng)域四大頂級學(xué)術(shù)會議之一。

　　隨著自動駕駛技術(shù)的普及，目前很多L2級別（部分自動駕駛）的乘用車都配備了ALC系統(tǒng)，可自動控制車輛方向盤使其保持在車道中心。該系統(tǒng)通常利用深度神經(jīng)網(wǎng)絡(luò)的車道檢測來實現(xiàn)車道居中自動輔助。研究人員通過安全分析發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)模型層面存在漏洞，容易受到物理世界的“對抗性攻擊”。

　　路面污漬在現(xiàn)實生活中很普遍，較難引起人類駕駛員注意。研究人員用對抗性神經(jīng)網(wǎng)絡(luò)生成誤導(dǎo)性的圖案，并將其偽裝為路面污漬，使攻擊更加隱蔽，讓這種“臟路補(bǔ)丁”誤導(dǎo)ALC系統(tǒng)。

　　研究人員分別在微縮場景、自動駕駛模擬器和現(xiàn)實中的真車上測試了“臟路補(bǔ)丁”攻擊，均成功“帶偏”了ALC系統(tǒng)，造成車輛碰撞事故。在對一款配備了ALC系統(tǒng)的真車進(jìn)行效果驗證時，測試車輛在10次試驗中的碰撞率達(dá)到100%。

　　論文通訊作者、加州大學(xué)歐文分校助理教授陳齊說，ALC系統(tǒng)如今被廣泛應(yīng)用于各種車型中。盡管方便，但該系統(tǒng)需要具有較高安全性：當(dāng)系統(tǒng)做出錯誤的轉(zhuǎn)向決策時，人類駕駛員可能沒有足夠的反應(yīng)時間來防止即將發(fā)生的安全隱患。

　　該論文的共同第一作者，加州大學(xué)歐文分校博士生佐藤貴海和沈駿杰建議，為防御此類攻擊，一些汽車廠商應(yīng)把路面污漬和“臟路補(bǔ)丁”加入ALC系統(tǒng)使用手冊里現(xiàn)階段不可處理的場景列表中，幫助用戶提前認(rèn)識到這種風(fēng)險的存在。有條件的廠商還可采取集成激光雷達(dá)和攝像頭等的多傳感器融合方案，或采用車道線檢測與地圖數(shù)據(jù)融合的方式防御攻擊。