AI的熱潮已經(jīng)影響到了政府部門，已經(jīng)有政府機(jī)構(gòu)開始利用人工智能在社會(huì)治安方面協(xié)助辦案，比如倫敦大都會(huì)區(qū)警察局。但前去觀摩的人權(quán)組織看到的結(jié)果，似乎不那么樂觀。

在8月底的英國(guó)倫敦傳統(tǒng)民俗活動(dòng)諾丁山狂歡節(jié)期間，人權(quán)組織Liberty被邀請(qǐng)現(xiàn)場(chǎng)觀摩了倫敦大都會(huì)警署上線的實(shí)時(shí)人臉識(shí)別系統(tǒng)。在倫敦街頭，警察在路邊使用偽裝成民用汽車的警用車輛監(jiān)控狂歡節(jié)人群，試圖使用這個(gè)系統(tǒng)找到人群中混跡的被通緝?nèi)藛T。

倫敦警察表示，這個(gè)項(xiàng)目是針對(duì)一個(gè)大約500名的特殊名單，這個(gè)名單里的人既有拒不支付罰款這樣的小案子，也有性侵犯這樣的嚴(yán)重犯罪。倫敦警察寄希望于用人臉識(shí)別系統(tǒng)發(fā)現(xiàn)他們?nèi)缓髮?shí)行逮捕。

但Liberty在事后發(fā)表的博客文章中，描述了這個(gè)系統(tǒng)非常“業(yè)余”的幾個(gè)錯(cuò)誤案例。

8月24日周一，諾丁山狂歡節(jié)的第二天，Liberty在倫敦警察的監(jiān)控車?yán)锟戳?0分鐘，就發(fā)現(xiàn)了兩例非常明顯的錯(cuò)誤：系統(tǒng)識(shí)別了兩個(gè)名單上的人，但這兩個(gè)人顯然連性別都對(duì)不上。Liberty認(rèn)為，這個(gè)系統(tǒng)似乎不能準(zhǔn)確判斷人的性別。在問到前一天，也就是8月23日周日的監(jiān)控是不是也出過類似的錯(cuò)誤，倫敦警察表示前一天有35例，其中5例由值班人員發(fā)現(xiàn)了錯(cuò)誤，沒有實(shí)施逮捕。

這個(gè)系統(tǒng)在運(yùn)行期間也確實(shí)“正確”抓到了人。倫敦警察表示，有一個(gè)人因?yàn)轵}亂案件被通緝的嫌疑人出現(xiàn)在狂歡節(jié)現(xiàn)場(chǎng)，他們逮捕了他。但隨后的審問中發(fā)現(xiàn)，這個(gè)人的案子已經(jīng)和解了，他現(xiàn)在沒有罪名。而且在狂歡節(jié)之前、案子和解之后，這個(gè)人已經(jīng)被錯(cuò)誤逮捕過一次。換句話說，這套人臉識(shí)別系統(tǒng)的數(shù)據(jù)庫非常陳舊。

倫敦警察的這次試驗(yàn)暴露了人工智能目前的一些問題，比如識(shí)別準(zhǔn)確率和數(shù)據(jù)庫匹配。從采用偽裝車輛進(jìn)行識(shí)別這一點(diǎn)上也能看出這次僅是小規(guī)模的試驗(yàn)，因?yàn)閭惗厥鞘澜缟献钤绨惭b閉路電視監(jiān)控系統(tǒng)的城市，也是監(jiān)控相機(jī)最多的城市之一。

從覆蓋密度上來看，英國(guó)是全球攝像頭最密集的國(guó)家，全境的街道和公共區(qū)域有400-590萬臺(tái)監(jiān)控?cái)z像頭，平均每一個(gè)攝像頭盯著11個(gè)英國(guó)人，每個(gè)人的臉每天會(huì)被閉路電視拍攝300次。截止2015年的數(shù)據(jù)顯示，倫敦有超過42萬個(gè)監(jiān)控?cái)z像機(jī)，位居城市中的世界第二。第一名是北京，媒體在2015年以正面角度報(bào)道，稱北京城區(qū)已經(jīng)實(shí)現(xiàn)了監(jiān)控100%覆蓋，攝像機(jī)數(shù)量超過了47萬個(gè)。

公開媒體報(bào)道顯示，中國(guó)的政府部門也越來越多的開始將人臉識(shí)別用在警務(wù)處理上，比如監(jiān)控過馬路闖紅燈的人。人民網(wǎng)昨日?qǐng)?bào)道，沈陽交通警察在街頭啟用了一套人臉識(shí)別系統(tǒng)，系統(tǒng)自動(dòng)抓拍闖紅燈的人，將他們的照片放在大屏幕上供值班交警識(shí)別、勸阻和教育。

這只是公開場(chǎng)所使用的案例，從供應(yīng)商們提供的技術(shù)來看，人臉識(shí)別系統(tǒng)在政府事務(wù)中能做的事情要多得多。在未來，它犯的錯(cuò)恐怕也會(huì)越來越多。