這項(xiàng)研究正是來自谷歌著名的精準(zhǔn)地圖，為加速和改進(jìn)將衛(wèi)星圖像轉(zhuǎn)化為實(shí)際地圖的過程，科研小組研究出所謂“循環(huán)神經(jīng)網(wǎng)絡(luò)”的一種方法，通過大量的實(shí)驗(yàn)將X和Y型圖像盡可能高效而準(zhǔn)確地相互轉(zhuǎn)換。

在將衛(wèi)星地圖轉(zhuǎn)換成實(shí)景地圖的視覺數(shù)據(jù)中有成千上萬的微小的顏色變化，人類的眼睛不會注意到，但計(jì)算機(jī)可以很容易地檢測到。AI機(jī)器的任務(wù)是理解其中一種地圖的特征，并將之另一種地圖特征正確匹配 。

在早期工作中，AI機(jī)器表現(xiàn)得不錯(cuò)，完成的又快又“好”但漸漸旳研究人員發(fā)現(xiàn)當(dāng)機(jī)器根據(jù)街景地圖重建航空照片時(shí)，很多細(xì)節(jié)根本不不在原圖中。例如，在創(chuàng)建街景地圖的過程原本已經(jīng)在建筑中被取消的屋頂天窗會在衛(wèi)星圖中神奇地再現(xiàn)。

研究人員很快找到原因，原來計(jì)算機(jī)非常擅長將這些細(xì)節(jié)嵌入街景地圖，因此它學(xué)會了快速將航空地圖編碼為街道地圖的本領(lǐng)，甚至不需要關(guān)注“真實(shí)”的街道地圖。而人類不擅長檢測造成了早期的錯(cuò)誤，這間接地鼓勵(lì)了機(jī)器的工作，因此機(jī)器默認(rèn)了自己生成的圖像的正確性，以至于后面愈演愈烈，張冠李戴錯(cuò)誤不斷，直到研究人員發(fā)現(xiàn)。

人們可以很容易地把它作為“機(jī)器越來越聰明”的正面論據(jù)，但實(shí)際上正相反的。這臺機(jī)器不夠聰明，所以才無法精確完成這些復(fù)雜的圖像類型的相互轉(zhuǎn)換，它只是找到了一種貌似“正確”的方法，并鉆了人類檢測不到的空子。

有趣的是，他們做的正是他們所要求的做的。這次的教訓(xùn)應(yīng)驗(yàn)了一句計(jì)算機(jī)界古老的格言：問題存在于鍵盤和計(jì)算機(jī)之間”或者如HAL說的：“這只能歸于人為錯(cuò)誤。”