據(jù)汽車新聞網(wǎng)站Autoblog報(bào)道稱，通過(guò)對(duì)交通標(biāo)識(shí)進(jìn)行微小改動(dòng)，比如涂鴉或者粘貼標(biāo)簽等，一批美國(guó)高校研究人員發(fā)現(xiàn)他們可以愚弄汽車的圖像識(shí)別系統(tǒng)，并能夠成功入侵汽車的自動(dòng)駕駛系統(tǒng)。

華盛頓大學(xué)、密歇根大學(xué)、石溪大學(xué)（Stony Brook University）以及加州大學(xué)伯克利分校的研究人員最近發(fā)現(xiàn)了侵入自動(dòng)駕駛汽車非常簡(jiǎn)單的方法，只需要通過(guò)標(biāo)簽對(duì)交通標(biāo)識(shí)做簡(jiǎn)單處理，研究人員便成功入侵了汽車的自動(dòng)駕駛系統(tǒng)。

據(jù)了解，研究人員首先分析了自動(dòng)駕駛汽車視覺(jué)系統(tǒng)的運(yùn)算法則，從而得出系統(tǒng)進(jìn)行圖像識(shí)別的方法。之后，研究人員對(duì)交通標(biāo)識(shí)進(jìn)行了簡(jiǎn)單更改，愚弄了系統(tǒng)的機(jī)器學(xué)習(xí)模式，從而使自動(dòng)駕駛汽車誤讀交通標(biāo)志；比如，研究人員在交通標(biāo)示上貼上標(biāo)簽之后，自動(dòng)駕駛汽車的視覺(jué)識(shí)別系統(tǒng)會(huì)將一個(gè)“停止”標(biāo)識(shí)誤讀成“限速45英里／小時(shí)”。如果這種情況在真實(shí)世界中發(fā)生，這將會(huì)導(dǎo)致極為可怕的后果。

在一篇名為《對(duì)機(jī)器學(xué)習(xí)模式的粗野物理世界攻擊》（Robust Physical World Attacks on Machine Learning Models）的論文中，在僅使用一臺(tái)彩色打印機(jī)以及一個(gè)攝像頭的情況下，文章作者們便展示了4種可以干擾機(jī)器學(xué)習(xí)以及交通標(biāo)示讀取的不同方式。而這批實(shí)驗(yàn)中最困擾研究人員的一個(gè)問(wèn)題則是，通過(guò)涂鴉、藝術(shù)方式改變交通標(biāo)示，或者融入交通標(biāo)示的形象設(shè)計(jì)，交通標(biāo)示的這些改變對(duì)人眼來(lái)說(shuō)是不易覺(jué)察的。

研究人員所采用的第一種方法則是，打印一款同等規(guī)格的“停止”標(biāo)識(shí)，并覆蓋原先的交通標(biāo)示。打印后的標(biāo)示看起來(lái)很正常，但是對(duì)人眼來(lái)說(shuō)，部分位置可能有褪色的跡象。而在實(shí)驗(yàn)中，即便從不同的角度以及距離進(jìn)行判斷，機(jī)器學(xué)習(xí)每次都將“停止”標(biāo)識(shí)當(dāng)作限速標(biāo)識(shí)。第二種測(cè)試方法則是在“停止”標(biāo)識(shí)上貼上了“愛(ài)情love”與“憎惡hate”的涂鴉標(biāo)簽之后，三分之二的測(cè)試次數(shù)之中，該標(biāo)識(shí)被誤讀稱限速標(biāo)識(shí)，還有一次被誤讀成讓路標(biāo)識(shí)。

第三種測(cè)試方式則使用“抽象藝術(shù)”的方式，即增加幾個(gè)小的、放在特定位置的標(biāo)簽對(duì)自動(dòng)駕駛系統(tǒng)進(jìn)行攻擊，結(jié)果與使用打印版“停止”標(biāo)識(shí)一樣，機(jī)器學(xué)習(xí)每次都將“停止”標(biāo)識(shí)當(dāng)作限速標(biāo)識(shí)。第四種測(cè)試則是對(duì)“右轉(zhuǎn)標(biāo)識(shí)”進(jìn)行了更改，研究人員使用了灰色標(biāo)簽掩飾了轉(zhuǎn)向尖頭，在所有測(cè)試之中，有三分之二的測(cè)試將該標(biāo)識(shí)誤讀為“停止”，剩余三分之一則將之誤讀為“附加車道”。

研究人員指出，要想成功襲擊自動(dòng)駕駛系統(tǒng)，黑客們首先需要了解汽車視覺(jué)系統(tǒng)的運(yùn)算法則，或者根據(jù)系統(tǒng)的反饋信息粗略判斷系統(tǒng)的視覺(jué)識(shí)別模式。在了解這些之后，黑客們就會(huì)發(fā)現(xiàn)如何愚弄自動(dòng)駕駛系統(tǒng)，而且他們只需要一個(gè)目標(biāo)交通標(biāo)識(shí)的圖像、一臺(tái)彩色打印機(jī)、一些粘貼紙，他們便會(huì)引發(fā)可怕的后果，導(dǎo)致某些人在“停止”標(biāo)識(shí)前，繼續(xù)以45英里／小時(shí)的速度超速運(yùn)行。

自動(dòng)駕駛初創(chuàng)公司Voyage高級(jí)研究科學(xué)家塔里克·埃爾·噶禮（Tarek El-Gaaly）則向《人車志》雜志表示稱，其實(shí)這種攻擊的解決方案非常簡(jiǎn)單，只需要將這些情況融入到自動(dòng)駕駛系統(tǒng)之中即可。情境則是一種解決方案，比如，根據(jù)汽車所處位置，一輛汽車的自動(dòng)駕駛系統(tǒng)便能夠識(shí)別是否其誤讀了交通標(biāo)識(shí)；再者，系統(tǒng)會(huì)意識(shí)到，在城市區(qū)域它不應(yīng)該按照高速公路模式駕駛。此外，噶禮指出，當(dāng)前許多自動(dòng)駕駛汽車都配置了多個(gè)傳感器，因此使用多個(gè)攝像頭以及激光雷達(dá)傳感器，系統(tǒng)可以建立完善的失效保護(hù)機(jī)制。