三年前，在一次跨大西洋問(wèn)題的會(huì)議上，人工智能的主題出現(xiàn)在議程中。我正想跳過(guò)那一環(huán)節(jié)，因?yàn)檫@超出了我通常關(guān)注的領(lǐng)域，但那場(chǎng)演講的開(kāi)篇卻讓我留在了座位上。

演講人描述了一款即將挑戰(zhàn)圍棋世界冠軍的計(jì)算機(jī)程序的工作原理。我吃驚地發(fā)現(xiàn)，電腦竟能精通比國(guó)際象棋更復(fù)雜的圍棋。在圍棋中，每個(gè)棋手有180或181枚棋子(這取決于他或她選擇哪種顏色的棋子)，他們?cè)谝粔K開(kāi)局時(shí)為空的棋盤上輪流落子。勝利的歸屬取決于哪一方能通過(guò)更巧妙的決策，更有效地控制實(shí)地，從而困死對(duì)手。

演講人堅(jiān)稱，這種能力是無(wú)法預(yù)先給機(jī)器編制好的。他表示，他的機(jī)器在實(shí)戰(zhàn)中訓(xùn)練自己，從而學(xué)會(huì)了熟練掌握圍棋?；趪宓囊?guī)則，計(jì)算機(jī)和自己對(duì)弈了無(wú)數(shù)局，從錯(cuò)誤中吸取了教訓(xùn)并相應(yīng)完善了算法。在這一過(guò)程中，它超越了人類導(dǎo)師的技術(shù)。事實(shí)上，在演講結(jié)束幾個(gè)月后，一款名為“阿爾法狗”(AlphaGo)的人工智能程序完勝了世界上最偉大的圍棋手。

聽(tīng)到演講人稱許這一技術(shù)進(jìn)步，作為一名歷史學(xué)家且一度從政的經(jīng)歷令我駐足思考。自我學(xué)習(xí)的機(jī)器通過(guò)特定過(guò)程獲得知識(shí)，并將這些知識(shí)應(yīng)用于可能超出人類理解范疇的目的，這樣的機(jī)器會(huì)對(duì)歷史產(chǎn)生什么影響?這些機(jī)器會(huì)學(xué)會(huì)互相溝通嗎?面對(duì)新出現(xiàn)的選項(xiàng)，機(jī)器如何做出選擇?印加人對(duì)西班牙文化感到難以理解，甚至心生敬畏，人類歷史是否有可能步他們的后塵?我們是否即將步入人類歷史的新階段?

意識(shí)到自己缺乏這一領(lǐng)域的技術(shù)能力，我接受了一些技術(shù)和人文領(lǐng)域熟人的建議，并與他們合作，組織了一些關(guān)于該主題的非正式對(duì)話。這些討論增添了我的憂慮。

一個(gè)有賴于機(jī)器的世界

迄今為止，最大程度改變現(xiàn)代歷史進(jìn)程的技術(shù)進(jìn)步是15世紀(jì)發(fā)明的印刷機(jī)，它使得對(duì)經(jīng)驗(yàn)知識(shí)的追尋代替了儀式性的教條，理性時(shí)代逐漸取代了宗教時(shí)代。個(gè)人洞見(jiàn)和科學(xué)知識(shí)取代了信仰，成為衡量人類意識(shí)的首要尺度。人們將信息存儲(chǔ)起來(lái)，并在規(guī)模不斷擴(kuò)展的圖書(shū)館中將其系統(tǒng)化。塑造當(dāng)代世界秩序的思想和行動(dòng)源起于理性時(shí)代。

但眼下，在一場(chǎng)新的、甚至更徹底的技術(shù)革命之中，那一秩序面臨劇變。我們已經(jīng)無(wú)法充分預(yù)判這場(chǎng)革命的后果，而其終局可能是一個(gè)有賴于機(jī)器的世界，那些機(jī)器靠數(shù)據(jù)和算法驅(qū)動(dòng)，且不受倫理或哲學(xué)規(guī)范的規(guī)制。

我們已身處其中的互聯(lián)網(wǎng)時(shí)代預(yù)示著部分問(wèn)題和麻煩，人工智能只會(huì)使之更加嚴(yán)重。啟蒙運(yùn)動(dòng)力圖將因襲而得的真理服從于不受拘束的、分析性的人類理性?；ヂ?lián)網(wǎng)的目的則是通過(guò)積累和處理不斷擴(kuò)充的數(shù)據(jù)來(lái)接受現(xiàn)有的知識(shí)。人類的認(rèn)知失去了個(gè)人的特性。個(gè)人變成了數(shù)據(jù)，而數(shù)據(jù)變成了統(tǒng)治者。

相較于在具體情境中思考或概括信息的意義，互聯(lián)網(wǎng)用戶更看重檢索和處理信息。他們很少審視歷史或哲學(xué);一般來(lái)說(shuō)，他們所要求的信息同他們目前的實(shí)際需求相關(guān)。在這一過(guò)程中，搜索引擎的算法獲得了預(yù)測(cè)個(gè)人用戶偏好的能力，使算法能夠?qū)Y(jié)果進(jìn)行個(gè)性化處理，并將它們提供給其他各方，用于政治或商業(yè)目的。事實(shí)變得相對(duì)，信息恐怕要壓倒智慧。

互聯(lián)網(wǎng)用戶不再內(nèi)省，轉(zhuǎn)而被社交媒體上各類群體的意見(jiàn)所淹沒(méi);事實(shí)上，許多技術(shù)愛(ài)好者用互聯(lián)網(wǎng)來(lái)避免他們所懼怕的孤獨(dú)。所有這些壓力都削弱了形成和維護(hù)信念所需要的毅力，而只有走一條人跡罕至的路才能使這樣的信念成為現(xiàn)實(shí)，創(chuàng)造力的本質(zhì)即在于此。

互聯(lián)網(wǎng)技術(shù)對(duì)政治的影響尤為明顯。能夠準(zhǔn)確定位弱小群體，關(guān)切他們特定的訴求或不滿，這打破了以往對(duì)優(yōu)先政治議程的共識(shí)。政治領(lǐng)導(dǎo)人疲于應(yīng)付這些細(xì)分壓力，沒(méi)有時(shí)間思考或?qū)徱晢?wèn)題產(chǎn)生的背景，這擠壓了他們制定遠(yuǎn)期規(guī)劃的空間。

數(shù)字世界對(duì)速度的強(qiáng)調(diào)抑制了沉思;其激勵(lì)賦權(quán)于激進(jìn)者要多于思想者;其價(jià)值觀由亞群體共識(shí)所塑造，而非由內(nèi)省形成。盡管有成就，但由于其強(qiáng)制性壓倒了便利性，數(shù)字世界面臨自我攻擊的風(fēng)險(xiǎn)。

隨著互聯(lián)網(wǎng)和不斷提高的計(jì)算能力促進(jìn)了海量數(shù)據(jù)的積累和分析，對(duì)人類理解力而言，前所未見(jiàn)的遠(yuǎn)景已經(jīng)浮現(xiàn)?；蛟S意義最為重大的是人工智能開(kāi)發(fā)項(xiàng)目。人工智能技術(shù)能夠通過(guò)似乎是復(fù)制人類創(chuàng)設(shè)和解決抽象問(wèn)題的過(guò)程，創(chuàng)設(shè)和解決復(fù)雜的、看似抽象的問(wèn)題。

這遠(yuǎn)遠(yuǎn)超出了我們所熟知的自動(dòng)化。自動(dòng)化涉及手段;它通過(guò)對(duì)實(shí)現(xiàn)目標(biāo)的生產(chǎn)工具的合理化或機(jī)械化來(lái)達(dá)成預(yù)定目標(biāo)。相比之下，人工智能涉及目的;它確立了自己的目標(biāo)。人工智能所取得的成就部分地取決于其自身，就此而言，人工智能本身是不穩(wěn)定的。人工智能系統(tǒng)通過(guò)其實(shí)際運(yùn)作，在獲取并即時(shí)分析新數(shù)據(jù)的過(guò)程中不斷變化，繼而在那一分析的基礎(chǔ)上尋求改進(jìn)自身。通過(guò)這一過(guò)程，人工智能發(fā)展出一種以前被認(rèn)為是僅有人類擁有的能力。它對(duì)未來(lái)做出戰(zhàn)略判斷，有些判斷基于以代碼形式接收到的數(shù)據(jù)(例如游戲規(guī)則)，有些判斷則基于它自己收集的數(shù)據(jù)(例如，通過(guò)把一個(gè)游戲反復(fù)玩上一百萬(wàn)次)。

無(wú)人駕駛汽車展現(xiàn)了傳統(tǒng)上由人類操控、軟件驅(qū)動(dòng)的計(jì)算機(jī)行為與人工智能試圖駕馭的領(lǐng)域之間的區(qū)別。駕駛汽車需要在多重復(fù)雜情形下做出判斷，這些情形不可能預(yù)測(cè)并就此提前編程。以一個(gè)眾所周知的假設(shè)為例，假如一輛汽車受環(huán)境所迫，要在殺死一位祖輩老人和一個(gè)孩子之間做出選擇，那么什么事情會(huì)發(fā)生?它會(huì)選擇誰(shuí)?為什么?它會(huì)試圖優(yōu)化其選擇過(guò)程中的哪些因素?此外，它能解釋其基本原理嗎?假如人工智能能夠和人溝通的話，當(dāng)被問(wèn)及這些問(wèn)題，它真實(shí)的回答可能是：“我不知道(因?yàn)槲易裱氖菙?shù)學(xué)的原理而不是人的原理)。”或“你不會(huì)理解(因?yàn)槲沂艿降挠?xùn)練是是以某種方式來(lái)應(yīng)對(duì)，而不是去解釋原理)”。然而，十年之內(nèi)，無(wú)人駕駛汽車可能在道路上普及。

迄今為止被局限于特定活動(dòng)領(lǐng)域的人工智能研究，現(xiàn)在正試圖開(kāi)發(fā)出能夠在多種領(lǐng)域執(zhí)行任務(wù)的“普遍智能”的人工智能。在可見(jiàn)的時(shí)間段內(nèi)，越來(lái)越多的人類活動(dòng)將由人工智能算法驅(qū)動(dòng)。但這些算法是對(duì)被觀察到的數(shù)據(jù)的數(shù)學(xué)闡發(fā)，并不解釋形成數(shù)據(jù)的潛在現(xiàn)實(shí)。矛盾的是，隨著這個(gè)世界變得越來(lái)越透明，它也將變得越來(lái)越神秘。是什么會(huì)將那個(gè)新世界與我們已知的世界區(qū)別開(kāi)來(lái)?我們將如何生活在其中?我們將如何管理人工智能，改進(jìn)人工智能，或者至少防止其造成傷害，最終造成對(duì)我們最不利的擔(dān)憂?也即，人工智能比人類更迅速且確定地掌握了某些能力之后，久而久之，在將人類活動(dòng)轉(zhuǎn)變?yōu)閿?shù)據(jù)的同時(shí)，它自身可以削弱人類的能力并貶低人類的境況。

不確定性和模糊性

人工智能遲早將極大造福于醫(yī)學(xué)、清潔能源供應(yīng)、環(huán)境問(wèn)題以及許多其他領(lǐng)域。但正因?yàn)槿斯ぶ悄苁菍?duì)一個(gè)正在演進(jìn)中、并不確定的未來(lái)下判斷，所以不確定性和模糊性是內(nèi)在于其結(jié)果的。對(duì)此，有三個(gè)特別值得關(guān)注的領(lǐng)域：

首先，人工智能可能實(shí)現(xiàn)意想不到的結(jié)果?？苹眯≌f(shuō)已經(jīng)想象出人工智能攻擊其創(chuàng)造者的橋段。更可能的危險(xiǎn)是，人工智能會(huì)因天生缺乏語(yǔ)境而誤解人類的指令。近來(lái)一個(gè)著名的例子是人工智能聊天機(jī)器人Tay。對(duì)Tay的設(shè)計(jì)是，令其使用19歲女孩的語(yǔ)言模式與人生成友好的對(duì)話。但這臺(tái)機(jī)器終究無(wú)法界定其程序員設(shè)定的“友好的”和“恰當(dāng)?shù)?rdquo;這樣的語(yǔ)言指令，反而變成了種族主義者和性別歧視者，不然就給出一些煽動(dòng)性的回答。一些技術(shù)界人士聲稱，該實(shí)驗(yàn)構(gòu)思病態(tài)，執(zhí)行不當(dāng)。但這一實(shí)驗(yàn)闡明了一個(gè)潛在含糊問(wèn)題：在多大程度上能夠讓人工智能理解指令中包含的語(yǔ)境?在“冒犯”一詞的含義尚未得到人們普遍認(rèn)同的情況下，什么媒介可能幫助Tay為它自己界定這個(gè)詞?我們能否在早期監(jiān)測(cè)到并糾正一款在我們預(yù)定框架之外行事的人工智能程序?或者，人工智能放任自流后，會(huì)否不可避免地發(fā)展出輕微偏差，久而久之，這些偏差可能匯聚為災(zāi)難，從而背離設(shè)計(jì)初衷?

其次，在實(shí)現(xiàn)預(yù)期目標(biāo)的過(guò)程中，人工智能可能會(huì)改變?nèi)祟惖乃季S過(guò)程和價(jià)值觀。阿爾法狗采取了在策略上前所未見(jiàn)的走法，從而擊敗了圍棋世界冠軍。人類從未想到過(guò)這些走法，至今也沒(méi)有學(xué)會(huì)如何成功應(yīng)對(duì)。這些走法是否超出了人腦的能力?或者，既然一位新的大師展示了這些走法，現(xiàn)在人類是否可以學(xué)習(xí)它們了呢?

在人工智能開(kāi)始下圍棋之前，圍棋本身有著多種多樣的目的：玩家所追求的不只是勝利，還包括從中學(xué)習(xí)可能適用于生活其他方面的策略。相比之下，人工智能只知道一個(gè)目的：獲勝。它不是在概念上，而是在數(shù)學(xué)上，通過(guò)對(duì)其算法進(jìn)行細(xì)微調(diào)整來(lái)“學(xué)習(xí)”。因此，在學(xué)習(xí)如何贏下棋局的過(guò)程中，通過(guò)與人類相異的弈棋方式，人工智能已經(jīng)改變了游戲的本質(zhì)及作用。這樣一種對(duì)勝利的單純堅(jiān)持是否概括了人工智能的所有特征?

通過(guò)開(kāi)發(fā)能對(duì)人類提問(wèn)生成各種答案的設(shè)備，其他人工智能項(xiàng)目正在改變?nèi)祟惖乃枷?。除了事?shí)層面的問(wèn)題(“外面是多少度?”)之外，關(guān)于現(xiàn)實(shí)的本質(zhì)或生活的意義之類問(wèn)題引發(fā)了更深層次的問(wèn)題。我們是否希望孩子們通過(guò)與不受限制的算法進(jìn)行對(duì)話來(lái)習(xí)得價(jià)值觀?我們是否應(yīng)該限制人工智能對(duì)提問(wèn)者的學(xué)習(xí)，借以保護(hù)隱私?假如是這樣，我們?nèi)绾螌?shí)現(xiàn)這些目標(biāo)呢?

假如人工智能以指數(shù)級(jí)的速度比人類更快地學(xué)習(xí)，那么我們必須預(yù)計(jì)到，它同樣能以指數(shù)級(jí)的速度加快試錯(cuò)過(guò)程，而人類的決策通常是經(jīng)由這樣的過(guò)程做出的。也就是說(shuō)，人工智能犯錯(cuò)誤的速度要快于人類，所犯錯(cuò)誤的規(guī)模要大于人類。正如人工智能的研究人員總是暗示的那樣，在程序中寫入要求得出“道德的”或“合理的”結(jié)果的警告指令，也可能無(wú)法改變這些錯(cuò)誤。所有學(xué)科都在人類無(wú)法就如何定義術(shù)語(yǔ)達(dá)成一致的基礎(chǔ)上發(fā)展。因此，人工智能是否應(yīng)該成為它們的仲裁者呢?

第三，人工智能可能達(dá)到預(yù)期目標(biāo)，但無(wú)法解釋其結(jié)論的基本原理。在某些領(lǐng)域，如模式識(shí)別、大數(shù)據(jù)分析和游戲等，人工智能的能力或許已超過(guò)人類。假如其計(jì)算能力繼續(xù)迅速加強(qiáng)，人工智能或許很快就能做到優(yōu)化場(chǎng)景，其方式至少與人類優(yōu)化場(chǎng)景的方式稍有不同，也可能截然不同。但到那個(gè)時(shí)候，人工智能是會(huì)否以人類能理解的方式，解釋為什么它的行動(dòng)是最優(yōu)的?或者人工智能的決策會(huì)否超越人類語(yǔ)言和理性的解釋能力?縱覽人類歷史，諸文明形成了解釋周遭世界的多種方式：中世紀(jì)時(shí)，用宗教;啟蒙運(yùn)動(dòng)時(shí)，用理性;在19世紀(jì)，用歷史;在20世紀(jì)，用意識(shí)形態(tài)。關(guān)于這個(gè)我們正在邁入的世界，最困難而最重要的問(wèn)題是：假如人類意識(shí)本身的解釋能力被人工智能超越，社會(huì)也無(wú)法再用對(duì)它們有意義的術(shù)語(yǔ)來(lái)解釋它們所處的世界，人類意識(shí)將會(huì)變得如何?

機(jī)器世界將人類經(jīng)驗(yàn)降為數(shù)學(xué)數(shù)據(jù)，并由人類自己的記憶對(duì)此進(jìn)行解讀，在這樣一個(gè)世界中，意識(shí)該如何被定義?誰(shuí)能對(duì)人工智能的行為負(fù)責(zé)?應(yīng)該如何給它們的錯(cuò)誤歸責(zé)?人類設(shè)計(jì)出的法律體系能否適應(yīng)思想比人類更深邃，并可能戰(zhàn)勝人類的人工智能所進(jìn)行的活動(dòng)?

最后，人工智能(artificial intelligence)一詞可能被誤用了?？梢钥隙ǖ氖牵@些機(jī)器可以解決復(fù)雜且看似抽象的問(wèn)題，這些問(wèn)題以前只服從于人類的認(rèn)知。但是人工智能的獨(dú)特之處在于，它們的思考方式是人類所不曾設(shè)想過(guò)或采取過(guò)過(guò)的。更確切地說(shuō)，人工智能擁有史無(wú)前例的記憶力和計(jì)算能力。由于在這些領(lǐng)域具備天然優(yōu)勢(shì)，人工智能可能贏下布置給它的任何游戲。但對(duì)我們?nèi)祟惖哪康亩裕@些游戲不只關(guān)乎獲勝;它們與思考有關(guān)。假如我們把數(shù)學(xué)過(guò)程當(dāng)作思考過(guò)程，并且自身嘗試模擬該過(guò)程或?qū)Y(jié)果來(lái)者不拒，我們就有失去思考能力這一人類認(rèn)知本質(zhì)的危險(xiǎn)。

最近設(shè)計(jì)出來(lái)的程序阿爾法元(AlphaZero)展現(xiàn)了這一演進(jìn)的意蘊(yùn)。該程序的國(guó)際象棋水平在大師級(jí)之上，其行棋風(fēng)格在國(guó)際象棋歷史上前所未見(jiàn)。在短短幾個(gè)小時(shí)的自我對(duì)弈中，它就達(dá)到了人類用1500年方能達(dá)到的技術(shù)水平。提供給阿爾法元的只是國(guó)際象棋的基本規(guī)則。人類和人類產(chǎn)生的數(shù)據(jù)都不是其自我學(xué)習(xí)過(guò)程的一部分。假如阿爾法元能夠如此迅速地達(dá)到國(guó)際象棋的大師級(jí)別，人工智能將在五年內(nèi)發(fā)展到何種地步?人工智能對(duì)人類的認(rèn)知又將產(chǎn)生什么普遍影響?在這個(gè)本質(zhì)上由加速的選擇構(gòu)成的過(guò)程中，倫理的角色是什么?

協(xié)調(diào)人工智能與人文傳統(tǒng)

通常，這些問(wèn)題是留給技術(shù)人員以及相關(guān)科學(xué)領(lǐng)域的知識(shí)分子去回答的。哲學(xué)家和人文領(lǐng)域的其他人曾經(jīng)幫助塑造了從前那些有關(guān)世界秩序的概念，但由于缺乏對(duì)人工智能機(jī)制的了解或震驚于人工智能的能力，他們往往處在不利地位。相比之下，科學(xué)界受到鼓勵(lì)，探索實(shí)現(xiàn)人工智能新成就的技術(shù)可能性，技術(shù)界則正專注于其巨大產(chǎn)業(yè)規(guī)模的商業(yè)前景。它們的激勵(lì)在于挑戰(zhàn)發(fā)現(xiàn)的限度，而不是理解那些發(fā)現(xiàn)。至于政府治理，就其涉及該課題的領(lǐng)域而言，相較于探索人工智能已經(jīng)開(kāi)始形成的對(duì)人類生存境況的轉(zhuǎn)變，它更可能是去研究人工智能在安全和情報(bào)方面的應(yīng)用。

啟蒙運(yùn)動(dòng)本質(zhì)上發(fā)軔于由新技術(shù)傳播的思想洞見(jiàn)。我們的時(shí)代正向相反的方向行進(jìn)。在尋求指導(dǎo)思想的過(guò)程中，這個(gè)時(shí)代已經(jīng)形成了一項(xiàng)潛在的主導(dǎo)技術(shù)。其他國(guó)家已將人工智能作為國(guó)家層面的重點(diǎn)項(xiàng)目。美國(guó)還沒(méi)有在國(guó)家層面系統(tǒng)地探索過(guò)其全部范圍，研究其可能的影響，或開(kāi)啟最終學(xué)習(xí)的進(jìn)程。尤其是，從協(xié)調(diào)人工智能與人文傳統(tǒng)的角度而言，人工智能應(yīng)該被列在國(guó)家議程中的最優(yōu)先位置。

如同我不了解技術(shù)一樣，人工智能的開(kāi)發(fā)人員對(duì)政治和哲學(xué)也缺乏了解，他們應(yīng)該把我在這里提出的一些問(wèn)題提問(wèn)給自己，以將答案嵌入他們的工程設(shè)計(jì)中。美國(guó)政府應(yīng)該考慮成立一個(gè)由杰出思想家組成的總統(tǒng)委員會(huì)，來(lái)幫助制定國(guó)家遠(yuǎn)景規(guī)劃。有一點(diǎn)很明確：如果我們不盡快開(kāi)始這項(xiàng)工作，我們很快就會(huì)發(fā)現(xiàn)起步太遲了。