對于社會大眾來說，他們希望，自動駕駛汽車能遵循比人類駕駛員更為嚴格的標準。就在上周，Elaine Herzberg女士在美國亞利桑那州不幸被一輛處于自動駕駛模式的Uber汽車撞倒，最終搶救無效身亡。在這場悲劇發(fā)生之后，真的是時候思考一下傳感和決策對于安全的意義了。

首先，我們當前所面臨的一大挑戰(zhàn)就是解讀傳感器信息。從警察公布的視頻中似乎可以看出，即便檢測和分類對象的能力是自動駕駛汽車系統(tǒng)中最基本的構(gòu)建模塊，但其實，這也是一項極具挑戰(zhàn)性的任務。然而，這種能力是當前高級駕駛輔助系統(tǒng)(ADAS)的核心，該系統(tǒng)囊括自動緊急剎車(AEB)和車道保持等功能。數(shù)十億英里的行駛里程足以驗證，ADAS中的高精度傳感系統(tǒng)正在挽救生命。同樣地，在克服更大的挑戰(zhàn)之前，這種技術(shù)也是未來全自動駕駛汽車所需要的基本要素。

為了證明當前ADAS技術(shù)的能力和精妙之處，我們在TV監(jiān)視器的視頻中運行了Mobileye的軟件，這臺監(jiān)視器播放了警方提供的事故片段。盡管狀況不佳——有可能很多事故現(xiàn)場的高動態(tài)范圍數(shù)據(jù)已丟失，但Mobileye的軟件依舊在撞擊前大約1秒的時候，就清晰的檢測到了。下方的圖片展示了三張快照，上面檢測到的自行車邊界框和Herzberg女士。該檢測有兩個獨立運行的來源：模式識別(產(chǎn)生邊界框)和一個“自由空間”檢測模塊(產(chǎn)生水平圖，其中紅色部分表示紅線上方出現(xiàn)了一名“路人”)。利用運動結(jié)構(gòu)(技術(shù)術(shù)語為“平面+視差”)，第三個模塊可以區(qū)分道路和物體。這樣就驗證了檢測到的物體是3D的，但可信度較低，因此被描述為“fcvValid: Low”，而顯示在屏幕左上方。出現(xiàn)低可信度是因為，此處缺失生產(chǎn)型車輛通?？捎玫男畔?，并且圖像質(zhì)量較差，畢竟，在行車記錄儀拍攝的視頻基礎上再次拍攝，可能會存在某些未知的縮減采樣。

圖像來源于警方公布的TV監(jiān)視器上的視頻片段。重疊的圖像顯示了Mobileye ADAS系統(tǒng)的響應。綠色和白色邊界框是自行車和行人檢測模塊所輸出的結(jié)果。水平圖顯示了道路和障礙物之間的邊界，我們稱之為“自由空間”。

此次實驗所使用的軟件與當前配備ADAS的車輛采用的軟件相同，并已經(jīng)在數(shù)十億英里的用戶行駛里程中得到了驗證。

現(xiàn)在，像深度神經(jīng)網(wǎng)絡等人工智能技術(shù)的發(fā)展，讓很多人認為，高精物體檢測系統(tǒng)已經(jīng)可以被輕松地開發(fā)出來，而那些計算機視覺專家十幾年的經(jīng)驗則被視為大打折扣。這使得很多新手涌入這一領域。雖然這些新技術(shù)的確有用，但很多傳統(tǒng)依舊不能忽略，這包括識別和完成數(shù)百次極端情況的測試、對數(shù)千萬英里數(shù)據(jù)集的注釋以及在數(shù)十個ADAS項目上進行極具挑戰(zhàn)性的試生產(chǎn)驗證測試。經(jīng)驗至關(guān)重要，尤其是在安全為先的領域。

對事件的第二個觀察是透明度。人人都說“我們把安全放在最重要的位置”，但我們認為，要想獲得公眾信任，就必須更加透明。正如我在去年10月在Mobileye發(fā)布責任敏感安全模型(RSS)時所說，決策必須符合人類判斷的常識。我們將“危險情況”和“正確響應”等常識概念做了數(shù)學公式化設計，并建立了一個從數(shù)學上確保符合定義的系統(tǒng)。

第三個觀察則是冗余。真正的感知系統(tǒng)需要有冗余設計，而且，必須依賴于獨立的信息源：攝像頭、雷達和激光雷達。把這些信息源整合起來，有助于提高駕駛舒適度，但不利于安全。為了展示我們獲得了切實的冗余度，Mobileye開發(fā)了獨立、僅攝像頭的端到端系統(tǒng)以及獨立的激光雷達和僅雷達系統(tǒng)。

如果類似上周的事故再次發(fā)生，用戶本來就很脆弱的信任，將會被進一步降低，并可能引發(fā)被動監(jiān)管，最終扼殺這項重要的工作。正如我在介紹責任敏感安全模型時所說，我堅信，現(xiàn)在就需要對全自動駕駛汽車的安全驗證框架做出有意義的討論。我們邀請汽車廠商、該領域的技術(shù)公司、監(jiān)管部門以及其它相關(guān)各方一起解決這些重要問題。