Max Tegmark 是美國麻省理工學(xué)院物理系終身教授，世界人工智能領(lǐng)域的權(quán)威專家，也是未來生命研究所創(chuàng)始人，該組織匯集了包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨、拉里·佩奇在內(nèi)的8000多名全球頂尖人工智能專家。

談到人工智能及人類的未來，Max Tegmark在演講中表示，技術(shù)的力量相當(dāng)強(qiáng)大，在人工智能的未來應(yīng)用上，需要注意的是，“別讓技術(shù)制服我們，而是賦能我們”。

以下為Max Tegmark現(xiàn)場演講全文：

我今天的發(fā)言主題，是技術(shù)。技術(shù)的發(fā)展確實給我們帶來一些負(fù)面的影響，但我們也要看到，技術(shù)也有很多是正面的。有一個非常好的比喻，就是把人工智能比作發(fā)射火箭，如果你想讓人工智能變得非常強(qiáng)大，有一個好的結(jié)果，那單有強(qiáng)有力的動力還不夠，我們必須要很好地掌握方向，并且了解怎么樣去應(yīng)用它。關(guān)于人工智能的發(fā)展，我認(rèn)為至少要思考三個方面的問題。

動力

首先，是發(fā)展動力的問題。人工智能是一種智能，而不是一個生物性的東西，本質(zhì)上就是信息處理。我們以前看到機(jī)器人不能走路，但是它們現(xiàn)在甚至可以跳躍了;以前我們還沒有自動駕駛汽車，現(xiàn)在已經(jīng)有了自動飛行火箭;以前人工智能還無法進(jìn)行人臉識別，現(xiàn)在它們甚至可以生成人臉、模擬人臉;以前人工智能無法在圍棋上打敗我們，AlphaGo和人類對弈，打敗了人類。

也就是說，以前我們對人工智能進(jìn)行的更多是一些抽象研究，但是現(xiàn)在它已經(jīng)深入到我們的生活中來。比如說，人工智能在醫(yī)學(xué)上的應(yīng)用，使得它甚至比人類的醫(yī)生更好，可以更好診斷各種各樣的疾病，從而挽救更多人的生命。對于中國這樣一個步入老齡化的國家而言，人工智能在養(yǎng)老陪護(hù)方面也許還能發(fā)揮更重要的作用。也就是說，人工智能在很多方面都得了很好的應(yīng)用，所有這些都是人工智能帶來的積極變化和進(jìn)步。

我們已經(jīng)取得了很多在人工智能方面的積極進(jìn)步，但是依然面臨很多問題。

再舉一個例子，如果把海平面代表人工智能，那隨著氣侯變化、海平面上升，人工智能的能力就會不斷增長。但是面對海平面的上升，我們還必須小心謹(jǐn)慎，要考慮這個海平面會上升多少，是否會把所有的陸地都淹沒。放在對人工智能發(fā)展方面的思考，那就是要考慮人工智能是否會替代人類所有的工作?人工智能到底能夠做到什么地步?

很多人說不要害怕，因為人可以打敗人工智能，可以做很多工作。也有人認(rèn)為，人工智能可以比人做的好，而且可以進(jìn)一步創(chuàng)造更高級的人工智能。所以，未來的人工智能還會更強(qiáng)。也就是說人工智能自己可以自我演進(jìn)，越來越改進(jìn)，最終成為超級人工智能。

那超級人工智能到底是科幻小說還是應(yīng)該嚴(yán)肅認(rèn)真對待的話題呢?，我有一個同事認(rèn)為通用人工智能要過幾個世紀(jì)才能發(fā)生，另外一位谷歌公司的朋友則說超級人工智能會來的比想象更早。

所以最終的問題是，超級人工智能來了以后會發(fā)生什么?如果機(jī)器可以做所有的東西，而且勞動成本更低，那人還有什么用呢?留給人類的也許只剩一個選擇，那就是只管造機(jī)器就行了。

方向

所以，我們要考慮到人工智能發(fā)展的方向，這就是我們火箭發(fā)射比喻的第二點。即火箭有了動力之后，必須要考慮到它未來飛行的方向。

我發(fā)起的一個組織——生命未來研究所，主要議題就是思考各個國家在人工智能方向該如何發(fā)展。我個人是非常喜歡技術(shù)的，我對技術(shù)是樂觀派。但我認(rèn)為技術(shù)發(fā)展的前提是，人要和技術(shù)同步成長。我們生活中的許多東西，都是基于不好的教訓(xùn)發(fā)明出來的。比如說著了火，我們才發(fā)明滅火器;出了車禍，然后才發(fā)明了紅綠燈、安全帶等等。從科學(xué)進(jìn)步角度來說，我們還是需要讓技術(shù)變得強(qiáng)大，但是一定要從技術(shù)當(dāng)中要吸取教訓(xùn)。

比如說發(fā)展超級人工智能，我們還是應(yīng)該積極來考慮。有人說超級人工智能不是什么好東西，但我認(rèn)為它也并非就一定是害人的東西，只是我們應(yīng)該做好“安全工程”。所謂“安全工程”，是指我們要做好應(yīng)對最壞結(jié)果的打算。比如我們在發(fā)射衛(wèi)星前，就要考慮到發(fā)射衛(wèi)星的整個過程中可能有什么問題，要不然發(fā)射之后人在天空中怎么辦。

技術(shù)的發(fā)展方向是全球所面臨的問題，任何國家都無法回避，也無法單獨解決這個問題。但我認(rèn)為中國在這方面可以發(fā)揮更多作用，可以為全球引導(dǎo)出一個正確的人工智能發(fā)展方向。一方面是中國有技術(shù)，另一方面中國有文化。技術(shù)層面，目前中國在人工智能方面已經(jīng)是一個非常領(lǐng)先的國家，中國的領(lǐng)導(dǎo)人也非常重視人工智能的發(fā)展，我了解到京東在技術(shù)發(fā)展方面一直在引領(lǐng)行業(yè)。但是同時必須考慮人工智能的安全性問題，這方面，中國是一個擁有古老文明的國度，看待問題目光長遠(yuǎn)，所以，中國可以幫助全球制定一個全球共同認(rèn)同的目標(biāo)。

我所在的生命未來研究所，在2017年1月提出了一個23項人工智能的發(fā)展原則——阿西洛馬人工智能原則。在我們的發(fā)展原則中，我們認(rèn)為發(fā)展人工智能，一方面要堅決避免武器的競爭，因為從技術(shù)角度來說，武器一方面可以保護(hù)人，另一方面可以傷害人。我們發(fā)展人工智能，一定要避免它們對人造成危害。

阿西洛馬人工智能原則中另外一個重要原則，就是人工智能的發(fā)展應(yīng)該能給人帶來收入增長，改善人的生活品質(zhì)。目前我們大多數(shù)人都認(rèn)為人工智能可以帶動經(jīng)濟(jì)大幅增長，增長到什么程度我們不知道，反正是很多人都能從中獲益。那人工智能是否也要考慮“安全工程”的問題呢?比如用人工智能進(jìn)行基礎(chǔ)決策時，要確保其決策的可信度。所以這就要求人工智能的發(fā)展要考慮到價值同盟，價值同盟是什么意思呢?以超級人工智能為例，我們發(fā)明了超級人工智能，一定要讓他理解我們的目標(biāo)，同意我們的目標(biāo)，維護(hù)我們的目標(biāo)，這樣才能確保方向不出錯。

目標(biāo)

那我們的目標(biāo)到底是什么呢?這就是我剛才舉的火箭發(fā)射例子里的第三點?；鸺袆恿α耍钟辛朔较?，但是它的目標(biāo)到底是發(fā)射到哪呢?

目前基本沒有人談?wù)撊斯ぶ悄艿陌l(fā)展目標(biāo)。因為所有的人工智能發(fā)展目標(biāo)都是短期的目標(biāo)、商業(yè)性的目標(biāo)。我們生命未來研究所的阿西洛馬人工智能原則最后一個，也是最重要的一項原則，就是超級人工智能必須得有助于人類才應(yīng)該繼續(xù)發(fā)展。中國國家主席曾經(jīng)提出要構(gòu)建人類命運共同體，這個人類命運共同體和我們的原則是高度一致的。因為人工智能的力量如此強(qiáng)大，發(fā)展到一定階段，要么就是讓我們共同成功，要么就是讓我們共同毀滅。所以我們應(yīng)該站在更高的高度看待這個問題，首先所有的國家都應(yīng)該共同發(fā)展人工智能，但是一定要有長遠(yuǎn)的眼光，要考慮風(fēng)險，否則這很可能是人類歷史上犯的最大的一個錯誤，甚至?xí)碚麄€星球上前所未有的災(zāi)難，甚至?xí)?dǎo)致人類的滅絕。為了避免這個最壞的結(jié)果，所以需要全球進(jìn)行合作，一起來解決人工智能“安全工程”的問題，這樣可能帶來我們美好的未來。

總而言之，對于人工智能的發(fā)展，我的態(tài)度是非常積極的。只是發(fā)展的原則應(yīng)該是技術(shù)別超過我們?nèi)祟惖牧α?，最終應(yīng)該讓人工智能給我們?nèi)祟愘x能，這樣才是正確的發(fā)展方向。

關(guān)于JDD-2018京東數(shù)字科技全球探索者大會：

JDD-2018京東數(shù)字科技全球探索者大會于11月20日在北京中國國際展覽中心新館舉辦，總獎金達(dá)220萬元的同名大賽于同天上午正式啟動。本屆大會由京東集團(tuán)、京東數(shù)字科技聯(lián)合主辦，KDD China為學(xué)術(shù)指導(dǎo)單位，APEC中國工商理事會青年企業(yè)家委員會為支持單位。大會旨在連接科技界、產(chǎn)業(yè)界、金融界、學(xué)術(shù)界、投資界五大圈層，搭建一個全球化的開放平臺，共同探索數(shù)字科技創(chuàng)新之道，實體經(jīng)濟(jì)數(shù)字化升級之路。

相比去年的首屆大會，本屆JDD大會規(guī)模再創(chuàng)新高，共有來自政府部門、金融機(jī)構(gòu)、投資機(jī)構(gòu)、大型企業(yè)和科研院所的近3000名嘉賓，包括400名業(yè)界大咖出席了大會。京東數(shù)字科技CEO陳生強(qiáng)、京東集團(tuán)首席技術(shù)官張晨與30余位重量級嘉賓在大會上暢談未來數(shù)字科技發(fā)展趨勢，其中包括中國工程院院士、原中國工程院常務(wù)副院長潘云鶴，中國工程院院士、中國農(nóng)業(yè)大學(xué)動物科技學(xué)院教授李德發(fā)，麻省理工學(xué)院教授、生命未來研究所主席、暢銷書《Life 3.0》作者M(jìn)ax Tegmark，美國國家工程院院士、MIT人工智能實驗室主任Daniela Rus，日本機(jī)器人“教父”、ROBOGARAGE公司創(chuàng)始人兼CEO高橋智隆，知名科幻作家、雨果獎獲得者、“童行學(xué)院”創(chuàng)始人郝景芳等國際知名學(xué)者和業(yè)界領(lǐng)軍人物。