AI作弊?聰明的人工智能將數(shù)據(jù)隱藏起來

責(zé)任編輯:zsheng

2019-01-03 11:06:54

摘自:手機(jī)中國

在斯坦福大學(xué)和谷歌的研究項(xiàng)目中,一個(gè)深度學(xué)習(xí)機(jī)器將衛(wèi)星圖像轉(zhuǎn)換成街景地圖“出現(xiàn)錯(cuò)誤”,卻將其巧妙地隱藏在“一個(gè)幾乎無法察覺的高頻信號”中。AI竟然學(xué)會了作弊?你覺得恐怖還是欣喜?這其實(shí)揭示了計(jì)算機(jī)自發(fā)明以來就存在的一個(gè)問題:計(jì)算機(jī)只是完全按照你的指令去做。

在斯坦福大學(xué)和谷歌的研究項(xiàng)目中,一個(gè)深度學(xué)習(xí)機(jī)器將衛(wèi)星圖像轉(zhuǎn)換成街景地圖“出現(xiàn)錯(cuò)誤”,卻將其巧妙地隱藏在“一個(gè)幾乎無法察覺的高頻信號”中。AI竟然學(xué)會了作弊?你覺得恐怖還是欣喜?這其實(shí)揭示了計(jì)算機(jī)自發(fā)明以來就存在的一個(gè)問題:計(jì)算機(jī)只是完全按照你的指令去做。

這項(xiàng)研究正是來自谷歌著名的精準(zhǔn)地圖,為加速和改進(jìn)將衛(wèi)星圖像轉(zhuǎn)化為實(shí)際地圖的過程,科研小組研究出所謂“循環(huán)神經(jīng)網(wǎng)絡(luò)”的一種方法,通過大量的實(shí)驗(yàn)將X和Y型圖像盡可能高效而準(zhǔn)確地相互轉(zhuǎn)換。

在將衛(wèi)星地圖轉(zhuǎn)換成實(shí)景地圖的視覺數(shù)據(jù)中有成千上萬的微小的顏色變化,人類的眼睛不會注意到,但計(jì)算機(jī)可以很容易地檢測到。AI機(jī)器的任務(wù)是理解其中一種地圖的特征,并將之另一種地圖特征正確匹配 。

在早期工作中,AI機(jī)器表現(xiàn)得不錯(cuò),完成的又快又“好”但漸漸旳研究人員發(fā)現(xiàn)當(dāng)機(jī)器根據(jù)街景地圖重建航空照片時(shí),很多細(xì)節(jié)根本不不在原圖中。例如,在創(chuàng)建街景地圖的過程原本已經(jīng)在建筑中被取消的屋頂天窗會在衛(wèi)星圖中神奇地再現(xiàn)。

研究人員很快找到原因,原來計(jì)算機(jī)非常擅長將這些細(xì)節(jié)嵌入街景地圖,因此它學(xué)會了快速將航空地圖編碼為街道地圖的本領(lǐng),甚至不需要關(guān)注“真實(shí)”的街道地圖。而人類不擅長檢測造成了早期的錯(cuò)誤,這間接地鼓勵(lì)了機(jī)器的工作,因此機(jī)器默認(rèn)了自己生成的圖像的正確性,以至于后面愈演愈烈,張冠李戴錯(cuò)誤不斷,直到研究人員發(fā)現(xiàn)。

人們可以很容易地把它作為“機(jī)器越來越聰明”的正面論據(jù),但實(shí)際上正相反的。這臺機(jī)器不夠聰明,所以才無法精確完成這些復(fù)雜的圖像類型的相互轉(zhuǎn)換,它只是找到了一種貌似“正確”的方法,并鉆了人類檢測不到的空子。

有趣的是,他們做的正是他們所要求的做的。這次的教訓(xùn)應(yīng)驗(yàn)了一句計(jì)算機(jī)界古老的格言:問題存在于鍵盤和計(jì)算機(jī)之間”或者如HAL說的:“這只能歸于人為錯(cuò)誤。”

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號