執(zhí)政8年，奧巴馬親眼見(jiàn)證了黑客成長(zhǎng)為往屆總統(tǒng)都從未見(jiàn)識(shí)過(guò)的巨大威脅。美國(guó)情報(bào)和司法機(jī)構(gòu)處理了各種各樣的黑客事件，從2009年的谷歌被黑，到這次大選中俄羅斯人的各種搗亂。因此，奧巴馬終于學(xué)會(huì)了制敵機(jī)先。這其中就包括為看起來(lái)像是科幻小說(shuō)的各種可能性做好準(zhǔn)備。比如說(shuō)，機(jī)器學(xué)習(xí)訓(xùn)練的人工智能(AI)被賦予盜取美國(guó)核武器代碼這種事。

在麻省理工學(xué)院(MIT)媒體實(shí)驗(yàn)室主任喬伊·艾拓和《連線》雜志主編斯科特·達(dá)迪奇的獨(dú)家采訪中，奧巴馬表達(dá)了對(duì)AI潛在危險(xiǎn)的擔(dān)憂。在黑客能盜取560萬(wàn)聯(lián)邦雇員指紋或締造現(xiàn)代版水門事件的時(shí)代，他擔(dān)心先進(jìn)的對(duì)手是否會(huì)利用AI來(lái)滲漏政府最敏感的系統(tǒng)。

可能會(huì)有這么一個(gè)算法，能滲透核代碼，找出發(fā)射核彈的方法。如果這就是算法的唯一任務(wù)，如果算法是自適應(yīng)的，而且僅僅是一個(gè)非常有效的算法，那麻煩就大了。

人工智能黑客或黑客工具這種想法，不僅僅是一種預(yù)言。五角大樓的國(guó)防高級(jí)研究計(jì)劃局(DARPA)就正在研制AI攻防軟件。今年夏天的Defcon大會(huì)DARPA挑戰(zhàn)賽上，該機(jī)構(gòu)讓AI系統(tǒng)捉對(duì)廝殺，比拼實(shí)時(shí)查找、利用、修復(fù)軟件安全漏洞的能力。

奧巴馬稱，AI攻擊的可能性并不代表著網(wǎng)絡(luò)世界末日，但確實(shí)需要加強(qiáng)美國(guó)對(duì)所有黑客的防御，無(wú)論是人類黑客還是機(jī)器黑客。“我對(duì)國(guó)家安全團(tuán)隊(duì)的指令是，不用太擔(dān)心機(jī)器顛覆世界，擔(dān)心一下非國(guó)家黑客或敵對(duì)黑客滲透系統(tǒng)的能力比較靠譜。從這個(gè)意義上講，我們現(xiàn)在做的很多網(wǎng)絡(luò)安全工作并沒(méi)有概念上的不同。僅僅是說(shuō)我們需要做得更好，因?yàn)椴渴疬@些系統(tǒng)的人現(xiàn)在就要好得多。”

奧巴馬警告的那種基于機(jī)器學(xué)習(xí)的AI，已經(jīng)被部署在了網(wǎng)絡(luò)安全世界——雖然僅僅用于防御，而不是攻擊。

開發(fā)人員長(zhǎng)久以來(lái)一直在用機(jī)器學(xué)習(xí)——以樣本數(shù)據(jù)訓(xùn)練軟件代碼的“自學(xué)習(xí)”過(guò)程，來(lái)磨煉垃圾郵件過(guò)濾器和識(shí)別惡意軟件。但另一方面，對(duì)防御堅(jiān)固系統(tǒng)造成嚴(yán)重威脅的真正自動(dòng)化的攻擊性黑客AI，可能還有好幾年的路要走。

不過(guò)，研究人員已經(jīng)勾勒出機(jī)器學(xué)習(xí)會(huì)被如何利用來(lái)攻擊這些基于機(jī)器學(xué)習(xí)的系統(tǒng)，而DARPA挑戰(zhàn)賽第一次展示了計(jì)算機(jī)可以使用AI來(lái)狩獵對(duì)手代碼中可供利用的漏洞，進(jìn)而入侵另一臺(tái)機(jī)器。

在《連線》的專訪中，總統(tǒng)稱他對(duì)網(wǎng)絡(luò)安全的思考，并不是站在對(duì)黑客進(jìn)行邊界防御的立場(chǎng)，而是要建立清除內(nèi)部威脅的免疫系統(tǒng)。網(wǎng)絡(luò)安全行業(yè)越來(lái)越多地聚焦在響應(yīng)而不是防止——將高級(jí)黑客全部擋在網(wǎng)絡(luò)外面是不可能辦到的。“傳統(tǒng)上，當(dāng)我們思考安全和自我保護(hù)時(shí)，我們想的都是盔甲和城墻。但逐漸地，我們發(fā)現(xiàn)自己正看向機(jī)器，然后想到病毒和抗體。網(wǎng)絡(luò)安全為什么一直如此之難的部分原因，就在于該威脅不是朝你駛來(lái)的滾滾坦克洪流，而是一大堆可能被蠕蟲侵入的系統(tǒng)。”

奧巴馬將該方法與另一大國(guó)家安全威脅相提并論：流行病。“護(hù)墻是攔不住致命流感病毒飛入國(guó)境的。我們要做的，是打造各種系統(tǒng)，讓疫苗更加聰明。”

奧巴馬謹(jǐn)慎指出，所有這一切，僅適用于作為高度進(jìn)化的工具而被使用的專門AI威脅，不滿足更幻想性的完全自治AI情形——有自己的意識(shí)和動(dòng)機(jī)但很可能不與人類為友的AI。對(duì)這種電影里“天網(wǎng)”類型的威脅，奧巴馬開出的處方很接地氣：“放個(gè)人在電源旁邊，看到不妙的跡象就拔插頭吧伙計(jì)。”