上世紀(jì)70年代初英國(guó)研究生杰夫?辛頓(Geoff Hinton)開始建立簡(jiǎn)單的數(shù)學(xué)模型，來描述人腦神經(jīng)元如何通過視覺理解世界。幾十年來，人們一直認(rèn)為人工神經(jīng)網(wǎng)絡(luò)是一項(xiàng)不切實(shí)際的技術(shù)。但在2012年，辛頓和多倫多大學(xué)的兩名研究生利用人工神經(jīng)網(wǎng)絡(luò)有效提升了計(jì)算機(jī)識(shí)別照片中物體的準(zhǔn)確度。六個(gè)月內(nèi)，谷歌收購(gòu)了由這三位研究人員創(chuàng)立的一家初創(chuàng)公司。鮮為人知的人工神經(jīng)網(wǎng)絡(luò)開始成為硅谷的熱門話題?，F(xiàn)在，所有的大型科技公司都把辛頓和其他初創(chuàng)公司煞費(fèi)苦心開發(fā)的技術(shù)作為公司發(fā)展的未來技術(shù)，以及推動(dòng)社會(huì)發(fā)展的核心技術(shù)。

上周，在G7峰會(huì)首次人工智能會(huì)議上，《連線》雜志采訪了辛頓。來自世界主要發(fā)達(dá)經(jīng)濟(jì)體的代表們?cè)跁?huì)上討論了如何推廣人工智能的有益之處，同時(shí)盡量減少失業(yè)和算法歧視等不利因素。以下是經(jīng)過編輯的采訪記錄：

《連線》:加拿大總理賈斯汀·特魯多(Justin Trudeau)在七國(guó)集團(tuán)會(huì)議上表示，應(yīng)對(duì)人工智能帶來的道德挑戰(zhàn)還需要更多的工作。您怎么看?

杰夫?辛頓:我一直擔(dān)心致命的自動(dòng)武器可能被濫用。我認(rèn)為應(yīng)該像日內(nèi)瓦公約禁止使用化學(xué)武器一樣禁止它們。即便不是每個(gè)人都在上面簽名，其存在也會(huì)起到某種道德標(biāo)桿的作用。你會(huì)注意到誰(shuí)沒有簽名。

《連線》:你在谷歌的4500多名同事聯(lián)名致信，抗議谷歌與五角大樓續(xù)簽一份涉及將機(jī)器學(xué)習(xí)應(yīng)用于無(wú)人機(jī)圖像的合同。谷歌曾表示這并非用于攻擊性目的。你在信上簽名了嗎?

杰夫?辛頓:作為谷歌的高管，我不認(rèn)為我應(yīng)該公開投訴，但是我私下抱怨了這一點(diǎn)。我沒有在這封信上簽名，但和谷歌聯(lián)合創(chuàng)始人謝爾蓋?布林(Sergey Brin)談過。他說他也有點(diǎn)不高興。所以他們沒有續(xù)簽。

《連線》:谷歌的領(lǐng)導(dǎo)層決定完成但不再續(xù)簽合同。他們還發(fā)布了一些使用人工智能的指導(dǎo)方針，其中包括承諾不將該技術(shù)用于武器。

杰夫?辛頓：我認(rèn)為谷歌決定是正確的。會(huì)有各種各樣的東西需要云計(jì)算，很難知道在哪里畫一條底線，從某種意義上說這是隨意的。我很高興谷歌畫出了這條線。這些原則對(duì)我很有意義。

《連線》:人工智能在日常生活中也會(huì)引發(fā)倫理問題。比如說相關(guān)軟件被用于社會(huì)服務(wù)或衛(wèi)生保健的決策。我們應(yīng)該注意什么?

杰夫?辛頓:我是技術(shù)應(yīng)用方面的專家，而不是社會(huì)政策方面的專家。我確實(shí)擁有相關(guān)技術(shù)專長(zhǎng)的一個(gè)地方是監(jiān)管機(jī)構(gòu)是否要求解釋人工智能系統(tǒng)是如何工作的。我認(rèn)為那將是一場(chǎng)徹頭徹尾的災(zāi)難。

對(duì)于人類來說，他們無(wú)法解釋自己所做的大部分事情。比如說當(dāng)你雇傭一個(gè)人的時(shí)候，這個(gè)決定是基于各種各樣你可以量化的東西，然后是各種各樣的直覺。人們不知道他們是怎么做到的。如果你讓他們解釋他們的決定，你是在強(qiáng)迫他們編造故事。

神經(jīng)網(wǎng)絡(luò)也存在類似的問題。當(dāng)你訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)時(shí)，它會(huì)學(xué)習(xí)十億的巨量數(shù)據(jù)，從而提取出知識(shí)。如果你輸入一個(gè)圖像，輸出的是正確的決定，比如說，這是不是一個(gè)行人。但如果你問“它為什么這么想?”如果有任何簡(jiǎn)單的規(guī)則能決定一幅圖像是否包含行人，這種難題在很久以前就已經(jīng)解決了。

《連線》:那么我們?cè)趺粗朗裁磿r(shí)候該信任這些系統(tǒng)呢?

杰夫?辛頓：你應(yīng)該根據(jù)他們的表現(xiàn)來進(jìn)行規(guī)范。你進(jìn)行實(shí)驗(yàn)，看看這個(gè)東西是否有偏見，或者它殺死的人是否比正常人要更少。對(duì)于自動(dòng)駕駛汽車而言，我認(rèn)為人們現(xiàn)在多少接受了這一點(diǎn)。即使你不太清楚自動(dòng)駕駛汽車是如何做到這一切的，但如果它的事故率比有人駕駛汽車少得多，那就是一件好事。我認(rèn)為我們必須像對(duì)待人那樣去做:你只需要看看他們表現(xiàn)如何，如果它們一再出現(xiàn)問題，你可以說它們不太好。

《連線》:你曾說過，思考大腦如何工作會(huì)激發(fā)你對(duì)人工神經(jīng)網(wǎng)絡(luò)的研究。我們的大腦通過突觸連接的神經(jīng)元網(wǎng)絡(luò)從感官中獲取信息。而人工神經(jīng)網(wǎng)絡(luò)則通過數(shù)學(xué)神經(jīng)元網(wǎng)絡(luò)提供數(shù)據(jù)，神經(jīng)元之間由所謂的權(quán)值連接起來。在上周發(fā)表的一篇論文中，您和幾位合著者認(rèn)為，我們應(yīng)該通過更多研究來揭示大腦中正在起作用的學(xué)習(xí)算法。為什么?

杰夫?辛頓:大腦解決問題的能力與我們大多數(shù)的神經(jīng)網(wǎng)絡(luò)非常不同。我們的大腦大約有100萬(wàn)億個(gè)突觸。一般來說，人工神經(jīng)網(wǎng)絡(luò)的權(quán)值至少要小10000倍。大腦用了很多很多的突觸從幾個(gè)片段中集中學(xué)到盡可能多的東西。當(dāng)有很多情景和范例時(shí)，深度學(xué)習(xí)擅長(zhǎng)利用神經(jīng)元之間更少的連接來進(jìn)行學(xué)習(xí)。我認(rèn)為大腦并不關(guān)心把大量知識(shí)壓縮到幾個(gè)連接中，它關(guān)心的是利用大量連接快速提取知識(shí)。

《連線》:我們?cè)鯓硬拍芙⑵鸶行У臋C(jī)器學(xué)習(xí)系統(tǒng)呢?

杰夫?辛頓:我認(rèn)為我們需要轉(zhuǎn)向一種不同的計(jì)算機(jī)。幸運(yùn)的是，我這里有一個(gè)。

(辛頓把手伸進(jìn)皮夾，拿出一塊閃亮的大硅片。這是英國(guó)初創(chuàng)公司Graphcore的一個(gè)原型，其致力于開發(fā)為機(jī)器學(xué)習(xí)算法提供動(dòng)力的新型處理器。)

幾乎所有運(yùn)行神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)系統(tǒng)，甚至是谷歌的特殊硬件，都使用RAM存儲(chǔ)器。處理器從RAM存儲(chǔ)器讀取數(shù)據(jù)然后加以利用，但從RAM中提取神經(jīng)網(wǎng)絡(luò)的權(quán)重需要耗費(fèi)大量的能量。所以現(xiàn)有的算法都確保一旦獲取了權(quán)重值，就會(huì)反復(fù)使用很多次。由于成本過大，你不能為每一個(gè)訓(xùn)練樣例做出改變。

但在Graphcore芯片上，權(quán)重存儲(chǔ)在處理器的緩存中，而不是RAM中，因此它們永遠(yuǎn)不需要移動(dòng)。因此有些東西會(huì)變得更容易探索。然后也許我們會(huì)得到一個(gè)系統(tǒng)，比如說有一萬(wàn)億的權(quán)重，但是每個(gè)樣例只涉及到十億個(gè)。這更像是大腦的規(guī)模。

《連線》:最近市場(chǎng)對(duì)人工智能和機(jī)器學(xué)習(xí)的興趣和投資激增，意味著用于研究的資金比以往任何時(shí)候都要多。該領(lǐng)域的快速發(fā)展是否也帶來了新的挑戰(zhàn)?

杰夫?辛頓:人工智能社區(qū)面臨的一大挑戰(zhàn)是,如果你想要發(fā)表一篇關(guān)于機(jī)器學(xué)習(xí)的論文，其中必須有一個(gè)表，首先列出所有不同的數(shù)據(jù)集以及所有不同的方法，然后突出你的方法看起來是最好的。如果不是這樣，論文就很難發(fā)表。我不認(rèn)為這會(huì)鼓勵(lì)人們?nèi)ニ伎既碌南敕ā?/p>

如果你提交的論文有一個(gè)全新的觀點(diǎn)，它就不可能被接受，因?yàn)槌跫?jí)審稿人不見得能夠理解?；蛘吣銜?huì)遇到一位資深審稿人，他需要回顧太多的論文才能看得懂，但第一次會(huì)認(rèn)為這肯定是胡說八道。任何讓大腦受傷的東西都不會(huì)被接受。我認(rèn)為這很糟糕。

尤其是在基礎(chǔ)科學(xué)領(lǐng)域，我們應(yīng)該追求的是全新的理念。因?yàn)槲覀冎溃瑥拈L(zhǎng)遠(yuǎn)來看一個(gè)全新的想法將比一個(gè)微小的改進(jìn)能夠產(chǎn)生更大的影響。我認(rèn)為現(xiàn)在需要進(jìn)行改變。這個(gè)領(lǐng)域的資深人士不多，大都是年輕人。

《連線》:會(huì)阻礙這一領(lǐng)域的進(jìn)展嗎?

杰夫?辛頓:需要再等上幾年，這種不平衡就會(huì)得到糾正。這是暫時(shí)的。公司都在忙于教育人們，大學(xué)也在教育人們，大學(xué)最終會(huì)在這個(gè)領(lǐng)域聘用更多的教授，這將是正確的。

《連線》:一些學(xué)者警告說，當(dāng)前的炒作可能會(huì)就像上世紀(jì)80年代那樣進(jìn)入“人工智能冬天”，當(dāng)時(shí)就是由于進(jìn)展沒有達(dá)到預(yù)期，興趣和資金都枯竭了。

杰夫?辛頓：不，不會(huì)有人工智能的冬天，因?yàn)樗鼤?huì)推動(dòng)你手機(jī)的技術(shù)進(jìn)步。在過去的人工智能冬季，人工智能并不是你日常生活的一部分?，F(xiàn)在它是。