人工智能是信息革命的最新成果，也代表了信息科學(xué)的最高水平。特別是在移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計(jì)算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)以及經(jīng)濟(jì)社會強(qiáng)烈需求的共同驅(qū)動(dòng)下，引發(fā)了今天的第三次人工智能的發(fā)展浪潮。人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控的新特征，也被稱為新一代人工智能。

從現(xiàn)實(shí)技術(shù)來看，可以把人工智能分為三個(gè)層次，首先是計(jì)算智能，在該領(lǐng)域計(jì)算機(jī)早已超過人類;其次是感知智能，就是讓計(jì)算機(jī)具備視覺、聽覺等，也取得了重大突破;再次是認(rèn)知智能，目標(biāo)是讓機(jī)器掌握人類的語言和知識體系并真正理解其內(nèi)在邏輯，這方面才剛剛開始。從計(jì)算智能到感知智能是人工智能走向成熟的標(biāo)志，從感知智能到認(rèn)知智能則將是質(zhì)的飛躍。

從技術(shù)發(fā)展的大跨度軌跡來看，科技界通常把人工智能分為三個(gè)階段：第一階段是弱人工智能，就是機(jī)器在某個(gè)專門領(lǐng)域可能比人類強(qiáng)，但整體智能還不能與人類比擬;第二階段是強(qiáng)人工智能，就是機(jī)器的智能在綜合和整體上達(dá)到人類的水平，能夠與人類相匹敵;第三階段是超級人工智能，就是機(jī)器的智能徹底超越人類，并將完全擺脫人類的控制。實(shí)際上，目前所有的人工智能技術(shù)，包括計(jì)算智能、感知智能和認(rèn)知智能，不管多先進(jìn)，都仍然屬于弱人工智能，只能在某一個(gè)專門領(lǐng)域超過人類或與人類相當(dāng)，而還不能從整體上超越人類。

近年來，人工智能方面的科技創(chuàng)新風(fēng)起云涌、日新月異，甚至呈現(xiàn)井噴式的發(fā)展。2016和2017年，谷歌研發(fā)的AlphaGo相繼戰(zhàn)勝了世界職業(yè)圍棋最高段位選手李世石和柯潔。在此之前，人們普遍認(rèn)為，在圍棋比賽上，機(jī)器永遠(yuǎn)不可能戰(zhàn)勝人類，因?yàn)閲迨瞧孱惐荣愔凶顬閺?fù)雜和變幻莫測的，也因?yàn)樵谌藗冃闹袊迨侨祟愃囆g(shù)、思維和尊嚴(yán)的最后一道防線。此外，百度所開發(fā)的強(qiáng)大的新型語音識別引擎，其在漢語普通話的口語識別的準(zhǔn)確度上達(dá)到了十分驚人的程度，甚至比人為識別更加準(zhǔn)確，與此相關(guān)的語音接口技術(shù)因此被《麻省理工科技評論》評為2016年10大全球突破性技術(shù)。[1]而中國的Face++(曠視科技)人臉識別技術(shù)的準(zhǔn)確率在LFW國際公開測試中達(dá)到世界最高的99.5%(超過了人類肉眼識別的準(zhǔn)確率97.52%)，與此相關(guān)的刷臉支付被《麻省理工科技評論》評為2017年10大全球突破性技術(shù)。[2]據(jù)2017年12月6日的科技日報(bào)報(bào)道，谷歌的人工智能(AI)系統(tǒng)已經(jīng)能發(fā)明自己的加密算法，還能生成自己的子AI。不僅如此，經(jīng)過嚴(yán)密測試，這個(gè)由AI創(chuàng)造的“子AI”居然能夠打敗人類創(chuàng)造的AI。這說明，人工智能達(dá)到一定階段就能夠自行設(shè)計(jì)和創(chuàng)造更高級的智能系統(tǒng)，實(shí)現(xiàn)自我進(jìn)化。

人工智能正在引發(fā)一場新的科技和產(chǎn)業(yè)革命。比如，智能機(jī)器人技術(shù)開發(fā)進(jìn)入爆發(fā)階段，智能化程度越來越高，應(yīng)用范圍得到了極大的擴(kuò)展。正如美國國家情報(bào)委員會在《全球趨勢2030：變換的世界》報(bào)告中所言：“當(dāng)今，機(jī)器人技術(shù)應(yīng)用于許多民用和軍用領(lǐng)域。機(jī)器人系統(tǒng)的表現(xiàn)日益趨同于人類行為，這種表現(xiàn)可通過編程或遠(yuǎn)程操作而自動(dòng)運(yùn)行。機(jī)器人有比人類更完美的感官系統(tǒng)和機(jī)械能力，在執(zhí)行常規(guī)任務(wù)時(shí)很理想。”而且“美軍有成千上萬個(gè)機(jī)器人奮戰(zhàn)在戰(zhàn)場”[3]。此外，無人駕駛、無人飛行、智能醫(yī)療、智能家居、智能投顧、虛擬現(xiàn)實(shí)和增強(qiáng)現(xiàn)實(shí)等新技術(shù)新產(chǎn)業(yè)新應(yīng)用也突飛猛進(jìn)，正在全方位地改變著世界。

人工智能作為新一輪科技革命和產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力，正在強(qiáng)有力地重構(gòu)生產(chǎn)、交換、分配、消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié)，必將對生產(chǎn)力、生產(chǎn)關(guān)系、經(jīng)濟(jì)基礎(chǔ)和上層建筑產(chǎn)生重大影響，必將對政治、經(jīng)濟(jì)、社會、文化生活產(chǎn)生重大影響，必將對國家實(shí)力、世界格局乃至人類命運(yùn)產(chǎn)生重大影響。有研究機(jī)構(gòu)宣稱，人工智能所帶來的轉(zhuǎn)變比工業(yè)革命“發(fā)生的速度快10倍，規(guī)模大300倍，影響幾乎大3000倍”[4]。

關(guān)于人工智能技術(shù)的未來發(fā)展前景，目前主要有兩種猜想。一種觀點(diǎn)認(rèn)為，人工智能在根本意義上終究只是對人類思維的模擬，看起來像是智能并不意味著機(jī)器會擁有自主意識，因此，人工智能不可能超越人類智能水平，只能是輔助人類的機(jī)器工具。

但是，另外一種觀點(diǎn)則堅(jiān)持認(rèn)為，人工智能不可能鎖死在人類智力水平上，與人類智能水平并駕齊驅(qū)的強(qiáng)人工智能終將到來，這一時(shí)刻就是所謂的技術(shù)“奇點(diǎn)”。有學(xué)者預(yù)測，這個(gè)奇點(diǎn)時(shí)刻應(yīng)該在21世紀(jì)中葉到來。[5]強(qiáng)人工智能實(shí)現(xiàn)之后，智能機(jī)器開始擺脫人類控制，開始自我進(jìn)化，這種進(jìn)化不是溫和的，而是爆炸式的，迅速的智能大爆發(fā)往往發(fā)生在非常短的時(shí)間內(nèi)，比如幾分鐘、幾小時(shí)或者幾天，人工智能將很快超越人類智能，超級智能正式降臨人間，那時(shí)，人工智能開始徹底擺脫人類的控制，人類社會將進(jìn)入超級智能控制一切的時(shí)代。比如著名理論物理學(xué)家霍金就反復(fù)告誡世人：“在我的一生中，我見證了社會深刻的變化。其中最深刻的，同時(shí)也是對人類影響與日俱增的變化，是人工智能的崛起。簡單來說，我認(rèn)為強(qiáng)大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。”“人工智能的成功有可能是人類文明史上最大的事件。但是人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會如何避免危險(xiǎn)。”[6]與霍金持有同類觀點(diǎn)的還有：被譽(yù)為21世紀(jì)最偉大的未來學(xué)家、奇點(diǎn)大學(xué)校長、《奇點(diǎn)臨近》作者、谷歌工程總監(jiān)雷·庫茲韋爾;因《人類簡史》和《未來簡史》而享譽(yù)世界的著名學(xué)者尤瓦爾·赫拉利;著名思想家、牛津大學(xué)未來研究院院長尼克·波斯特洛姆;著名科技企業(yè)家日本軟銀集團(tuán)的創(chuàng)始人孫正義和美國特斯拉公司創(chuàng)始人埃隆·馬斯克等等。由于這些人顯赫的身份背景、令人欽佩的學(xué)術(shù)和思想造詣以及對科學(xué)技術(shù)和未來世界的遠(yuǎn)見卓識，他們的深沉憂患絕非危言聳聽，更非杞人憂天，在我們歡呼人工智能造福人類社會的同時(shí)，還應(yīng)當(dāng)認(rèn)真地思考，人工智能除了會給我們帶來美麗新世界之外，還會給我們帶來什么，是福音，亦或是夢魘?

總之，人工智能是一場滾滾而來的深刻的科技革命，它的發(fā)展不可限量甚至難以預(yù)估，它已經(jīng)和正在迅速地改變我們的思想和現(xiàn)實(shí)世界。在未來10年，它可能會給人類帶來百年不遇的變革;在未來30年，它可能會給人類帶來千年不遇的大變革;而對50年后，這個(gè)世界將會變成什么樣子，我們今天一無所知，那時(shí)，正如尤瓦爾所斷言的，也許整個(gè)人類將面臨自地球有生命以來的40億年中第一次出現(xiàn)的一個(gè)最為重大的變局，而且是人類面臨的最后一個(gè)世界。

人類未來，因?yàn)槿斯ぶ悄軐鯓?這既是個(gè)重大的理論問題，也是個(gè)重大的現(xiàn)實(shí)問題。因此，當(dāng)下，在抓住科技革命的機(jī)遇，大力發(fā)展人工智能的同時(shí)，我們應(yīng)當(dāng)十分清醒而理智地思考人工智能可能給我們帶來的風(fēng)險(xiǎn)和挑戰(zhàn)，并采取正確的應(yīng)對措施，這一點(diǎn)，毋庸置疑，也是人工智能最終能夠造福人類社會的前提條件。

二、人工智能“奇點(diǎn)”或者來臨：風(fēng)險(xiǎn)與挑戰(zhàn)

近年來，隨著科學(xué)技術(shù)的迅猛發(fā)展，“奇點(diǎn)”這個(gè)概念得到了越來越多的嚴(yán)肅的學(xué)術(shù)討論。物理學(xué)中的奇點(diǎn)指的是在時(shí)間或空間的某一點(diǎn)上，出現(xiàn)了類似黑洞或者宇宙大爆炸的情況，數(shù)學(xué)已經(jīng)不再適用，人類也無法理解。人類歷史中出現(xiàn)的奇點(diǎn)則指的是由于技術(shù)的迅速發(fā)展，人類社會中的一切都出現(xiàn)了改變，生活在今天的我們將無法理解。今天被我們當(dāng)做理所當(dāng)然的一切(經(jīng)濟(jì)、社會、法律、倫理等等)會改變形態(tài)，甚至人類最根本的價(jià)值觀也會被淘汰。許多學(xué)者認(rèn)為，當(dāng)前人類歷史的發(fā)展階段距離奇點(diǎn)已越來越近。有些觀點(diǎn)或許過于驚世駭俗，但不管這些奇點(diǎn)是否真的臨近，這些問題卻都值得我們思考，因?yàn)槿找骘@著的變化已經(jīng)或正在不斷發(fā)生。本文則是在最寬泛的意義上來使用奇點(diǎn)這個(gè)感念。

1.人工智能給我們帶來的一個(gè)現(xiàn)實(shí)挑戰(zhàn)就是“規(guī)范奇點(diǎn)”已然來臨——人工智能不可阻擋地突破人類既有的法律和道德規(guī)范。2016年5月7日，美國佛羅里達(dá)州發(fā)生自動(dòng)駕駛汽車撞車事故。美國國家公路安全管理局最終得出調(diào)查結(jié)果，汽車的自動(dòng)駕駛模式設(shè)計(jì)并無明顯缺陷，但對于自動(dòng)駕駛事故的法律責(zé)任如何界定，也沒能給出明確的回答。在2017年7月5日的百度AI開發(fā)者大會上，百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏通過視頻直播展示了一段自己乘坐公司研發(fā)的無人駕駛汽車的情景，視頻中駕駛座位沒有駕駛員。對此，北京市交管部門已介入調(diào)查，同時(shí)聲稱公安交管部門支持無人駕駛技術(shù)創(chuàng)新，但應(yīng)當(dāng)合法、安全、科學(xué)進(jìn)行。目前，我國還沒有對自動(dòng)駕駛行為作出法律規(guī)定。這兩個(gè)標(biāo)志性案例引起社會各界的熱烈討論，焦點(diǎn)是無人駕駛的正當(dāng)性與合法性，問題本質(zhì)上是自動(dòng)駕駛行為的主體定位和法律歸責(zé)。因?yàn)椋缃竦臋C(jī)器人已經(jīng)具有自主性和認(rèn)知特征，具有從經(jīng)歷中學(xué)習(xí)并獨(dú)立自主地作出判斷的能力，而且可以實(shí)質(zhì)性調(diào)整其行為。如果機(jī)器人自主地作出決策，傳統(tǒng)的責(zé)任歸責(zé)制度就難以解決機(jī)器人的責(zé)任問題，因?yàn)閭鹘y(tǒng)的法律將可能不能確定責(zé)任方并讓其作出賠償。機(jī)器人的自主性越強(qiáng)，就越難將其當(dāng)成是其他主體(比如制造商、所有人、使用者等)手中的簡單工具，這反過來使得既有的規(guī)則開始變得不足，因而需要新的規(guī)則。最終，法律需要對機(jī)器人的本質(zhì)問題作出回應(yīng)，其是否應(yīng)當(dāng)被當(dāng)成是自然人、法人、動(dòng)物抑或物，或者法律應(yīng)當(dāng)為其創(chuàng)設(shè)新類型的法律主體，在權(quán)利、義務(wù)、責(zé)任承擔(dān)等方面具有其自身的特性和內(nèi)涵。

近期，美國一家公司生產(chǎn)的超仿真機(jī)器人Sophia在電視節(jié)目上與人類對答如流，成為“網(wǎng)紅”機(jī)器人。對話中，Sophia流露出的喜悅、驚奇、厭惡等表情真實(shí)得令人贊嘆。就是這個(gè)機(jī)器人，不但獲得了沙特的國籍，而且被聯(lián)合國開發(fā)計(jì)劃署亞太局任命為有史以來第一位“非人類”創(chuàng)新大使，這個(gè)創(chuàng)新大使隨后在聯(lián)合國還發(fā)表了就職演講，引起轟動(dòng)。而這類機(jī)器人正越來越多地被設(shè)計(jì)和制造出來。這可能會面臨兩個(gè)問題，一是，隨著人工智能越來越像人，人類對機(jī)器有了感情怎么辦?比如，老年人或者殘障人士，對專門協(xié)助他們生活的服務(wù)型機(jī)器人，久而久之會產(chǎn)生某種依賴甚至類似于人與人之間的依戀，如果產(chǎn)生這種感情，甚至類似夫妻、父女等感情，會導(dǎo)致機(jī)器人“人格”的出現(xiàn)嗎?另據(jù)人民網(wǎng)報(bào)道，美國一家公司近期宣布，將推出歷史上第一款智能伴侶機(jī)器人，其目標(biāo)是幫助那些“在與他人建立親密關(guān)系上遇到困難的人們”。如果出現(xiàn)伴侶機(jī)器人對人類的普遍替代，必將對人類社會綿延幾千年的家庭、愛情、性乃至建立在這個(gè)基礎(chǔ)上的整個(gè)人類倫理道德規(guī)范產(chǎn)生巨大的沖擊。第二個(gè)問題是，隨著人工智能的不斷發(fā)展完善，將來是否有可能誕生出情感智能，這種情感智能不僅能理解人類的感情，而且它本身就具有情感。情感智能的問世又會將人類社會帶向何方?

此外，“機(jī)器人寫詩詞”“電腦作曲”也已成真，而且達(dá)到了與人類作品難分伯仲的水平，現(xiàn)在問題是，機(jī)器人創(chuàng)作的作品是否有知識產(chǎn)權(quán)，是否應(yīng)得到人類的保護(hù)和尊重?當(dāng)前，無人飛行技術(shù)日益成熟，越來越多的無人機(jī)沖向藍(lán)天，現(xiàn)在問題是，還沒有法律法規(guī)對此加以規(guī)范，日益混亂的無人飛行會造成空域秩序的嚴(yán)重破壞，甚至釀成嚴(yán)重事故，而制定這方面的法律規(guī)則肯定會遇到一系列新的復(fù)雜問題。同時(shí)，我們不能忽視了人工智能犯罪問題，一是作為工具的人工智能犯罪，這需要我們加快研究如何防范和破解智能技術(shù)被壞人所開發(fā)和利用;二是作為自主性智能機(jī)器人，如果在特定條件下發(fā)生了“故意”犯罪或者“過失”犯罪，又將如何確定法律主體和刑罰追責(zé)?還有，需要我們高度重視的是，如何防范和打擊恐怖分子利用人工智能技術(shù)實(shí)施恐怖活動(dòng)，比如利用自動(dòng)駕駛汽車和無人飛機(jī)等實(shí)施暴恐活動(dòng)，這會給國家和社會帶來嚴(yán)重的后果。最后，最令人憂慮的是，人工智能被用于各國軍備競賽，這種競賽的結(jié)果必然是大量的智能性自主武器被研發(fā)出來并被投入到戰(zhàn)場上，這些機(jī)器人戰(zhàn)士會自動(dòng)搜素目標(biāo)并射殺人類而毫無憐憫之心。正如霍金一再告誡的“人工智能的全方位發(fā)展可能招致人類的滅亡，比如最大化使用智能性自主武器。”[7]隨著人工智能全面介入人類社會生活，原來的人與人、國與國之間的關(guān)系必將發(fā)生翻天覆地的變化，現(xiàn)有法律和道德規(guī)范越來越不能適應(yīng)新的技術(shù)文明，大變革的鐘聲已然敲響。

2.人工智能給我們帶來的另一個(gè)挑戰(zhàn)就是“經(jīng)典理論奇點(diǎn)”即將來臨——人工智能及其影響即將超越經(jīng)典社會科學(xué)的解釋范疇。比如，經(jīng)典唯物主義所揭示的物質(zhì)與意識、客體與主體、存在與思維、客觀世界與主觀世界、自然界與人類社會范疇等，所有這些范疇都建立在人是唯一具有理性思維和意識的物種這一前提判斷之上。然而，人工智能的出現(xiàn)可能正在打破幾千年來的信條。包括科技界和理論界，越來越多的人相信，人工智能終將成為一種獨(dú)立于人的新的生命形式、思維存在和行為主體，或者是某種具有高度理性思維的新“物種”。據(jù)2017年11月7日《科技日報(bào)》報(bào)道，霍金在接受《連線》雜志采訪時(shí)稱，人工智能有可能會取代人類，最終會演變成一種超越人類的新生命形式。此外，他一再堅(jiān)稱：“文明所產(chǎn)生的一切都是人類智能的產(chǎn)物，我相信生物大腦可以達(dá)到的和計(jì)算機(jī)可以達(dá)到的，沒有本質(zhì)區(qū)別。”“未來，人工智能可以發(fā)展出自我意志，一個(gè)與我們沖突的意志。”[8]尤瓦爾對人工智能也一再堅(jiān)稱：在我們的有生之年，有可能看到有機(jī)生命會逐步被無機(jī)生命所替代。原先我們是碳基的，未來生命形式當(dāng)中，硅基會成為主要的生命形式。這是我們有生命以來的40億年當(dāng)中第一次出現(xiàn)的一個(gè)重大變局。[9]計(jì)算機(jī)科學(xué)與人工智能之父艾倫·圖靈曾說過：即使我們可以使機(jī)器屈服于人類，比如，可以在關(guān)鍵時(shí)刻關(guān)掉電源，然而作為一個(gè)物種，我們也應(yīng)當(dāng)感到極大的敬畏。圖靈說這段話的時(shí)間是在1951年，那時(shí)，人工智能的感念尚未誕生。

隨著“技術(shù)奇點(diǎn)”的到來，人工智能必將以智慧物種的新面目強(qiáng)勢崛起，人類所精心構(gòu)建的上述自然——人“二元論”理論范疇，將會被自然——人工智能——人“三元”論范疇所取代，人類社會也將從一個(gè)由自然界與人類構(gòu)成的“二維世界”進(jìn)入到一個(gè)由自然界、人類及人工智能構(gòu)成的“三維世界”。

上述這些已經(jīng)顯現(xiàn)而且即將廣泛發(fā)生的理論挑戰(zhàn)，雖然寂靜無聲，但卻迫在眉睫。在未來，作為回應(yīng)，不僅需要重新解釋這個(gè)新世界，而且需要重新構(gòu)建人類思想的理論范式。

3.人工智能近期對人類的挑戰(zhàn)則是“經(jīng)濟(jì)奇點(diǎn)”的來臨——機(jī)器開始普遍替代勞動(dòng)力。這個(gè)概念是英國著名企業(yè)家、暢銷書作家蔡斯在其新著《經(jīng)濟(jì)奇點(diǎn)：人工智能時(shí)代，我們將如何謀生?》中提出來的。他在書中預(yù)測，由于人工智能的加速發(fā)展，到2031年，越來越多的崗位將會被機(jī)器替代，世界不可阻擋地沖向“經(jīng)濟(jì)奇點(diǎn)”;而到2041年，絕大多數(shù)發(fā)達(dá)國家的失業(yè)率將會超過50%，此時(shí)就意味著“經(jīng)濟(jì)奇點(diǎn)”已經(jīng)到來，[10]而且經(jīng)濟(jì)奇點(diǎn)會遠(yuǎn)在技術(shù)奇點(diǎn)來臨之前到來。無獨(dú)有偶，牛津大學(xué)經(jīng)濟(jì)學(xué)家佛雷和機(jī)器學(xué)習(xí)專家奧斯本對702個(gè)職業(yè)進(jìn)行了分析，并得出結(jié)論：在未來10—20年，美國47%的就業(yè)人口可能會面臨失業(yè)風(fēng)險(xiǎn)。他們研究認(rèn)為，相對于此前工業(yè)革命對就業(yè)市場的改變，本次工業(yè)革命對就業(yè)市場的破壞范圍更廣，速度更快，而且，就業(yè)市場兩極分化的趨勢更加嚴(yán)重：認(rèn)知性和創(chuàng)造性強(qiáng)的高收入工作機(jī)會和體力性的低收入工作機(jī)會都會增加，但是常規(guī)性和重復(fù)性的中等收入工作機(jī)會將會大幅減少。[11]同樣，世界經(jīng)濟(jì)論壇主席施瓦布在其新著《第四次工業(yè)革命：轉(zhuǎn)型的力量》中指出：隨著機(jī)器人技術(shù)和計(jì)算能力的發(fā)展，許多工種已經(jīng)和正在實(shí)現(xiàn)自動(dòng)化，“即便是像律師、金融分析師、醫(yī)生、記者、會計(jì)師、保險(xiǎn)承保人、圖書管理員等各種不同的職業(yè)，也可能部分或全部實(shí)現(xiàn)自動(dòng)化，而且這一天會比大多數(shù)人的預(yù)期來得早。”[12]他舉例說的恰恰就是中等收入的白領(lǐng)階層。事實(shí)上，機(jī)器不需要變成強(qiáng)人工智能就能奪走我們大多數(shù)人的工作。它們其實(shí)在很多專門方面都已經(jīng)比我們強(qiáng)，包括圖像識別、聲音識別和自然語言處理等領(lǐng)域，加上資本和市場的驅(qū)動(dòng)，它們正在持續(xù)而堅(jiān)定地替代著我們。機(jī)器可以不吃不喝不睡覺，一旦它們接手我們的工作，就會很快比我們干的更快更好，成本更低。此外，人的思維能力不會以指數(shù)速度持續(xù)提高，但機(jī)器可以。因此，隨著人工智能技術(shù)的迅速演進(jìn)，機(jī)器對勞動(dòng)力的替代將會進(jìn)一步加劇。在《全球趨勢2030：變換的世界》報(bào)告中，美國國家情報(bào)委員會也預(yù)測到：“雖然在改進(jìn)機(jī)器人的認(rèn)知能力方面仍有許多工作要做，但到2030年將出現(xiàn)許多具有未來色彩的打破常規(guī)系統(tǒng)的技術(shù)。這些機(jī)器人技術(shù)如果實(shí)現(xiàn)，那么在某些生產(chǎn)環(huán)境中完全就不需要人類勞動(dòng)力。”[13]機(jī)器智能對人工的替代是確定無疑的，當(dāng)然也有觀點(diǎn)認(rèn)為，不必杞人憂天，因?yàn)槿斯ぶ悄苄录夹g(shù)既會替代舊有的崗位，也會創(chuàng)造出新的工作。然而，更多的觀點(diǎn)認(rèn)為，隨著機(jī)器智能的迅速升級迭代，過不了多久，新創(chuàng)造的工作也會被更高級的智能機(jī)器所取代，因?yàn)檫@次機(jī)器革命與前幾次工業(yè)革命真的不同。因此，尤瓦爾堅(jiān)稱：“正如第一次工業(yè)革命使得城市無產(chǎn)階級出現(xiàn)，人工智能的出現(xiàn)會出現(xiàn)一個(gè)新的階層，就是無用階層。數(shù)以億計(jì)的人將找不到工作，他沒有辦法和計(jì)算機(jī)人工智能競爭，對這些人來說他已經(jīng)喪失了經(jīng)濟(jì)的價(jià)值。”[14]沒有經(jīng)濟(jì)價(jià)值也就沒有政治和社會權(quán)力，因此，“經(jīng)濟(jì)奇點(diǎn)”的日益臨近，必將對人類政治、經(jīng)濟(jì)、社會方方面面產(chǎn)生巨大的沖擊和挑戰(zhàn)。

4. 人工智能給未來人類社會發(fā)展帶來的最重大的挑戰(zhàn)就是“社會形態(tài)奇點(diǎn)”的來臨——人工智能或許應(yīng)該把人類社會導(dǎo)向“自由人聯(lián)合體”。在未來，我們?nèi)祟愡@個(gè)種群所有的成員都會改變。我們利用新技術(shù)，提高自己的認(rèn)知能力，增強(qiáng)自己的體質(zhì)。我們可以服用智商增強(qiáng)類藥物，穿戴外骨骼，采用基因技術(shù)治愈疾病延長壽命等等。隨著科技的加速發(fā)展，未來的人體增強(qiáng)技術(shù)和認(rèn)知增強(qiáng)技術(shù)每年甚至每個(gè)月都會出現(xiàn)重大突破，人工智能性能越來越強(qiáng)大，也會加速這一過程。但是，這一進(jìn)程并不是在所有人類成員間平等開展的。原因是，精英群體由于已經(jīng)掌控了資本、權(quán)力和技術(shù)，因此，他們會利用這些特權(quán)更多更快地利用最新的技術(shù)增強(qiáng)和改善自身，從而使自己的進(jìn)化速度越來越快于普通大眾，結(jié)果出現(xiàn)精英群體與普通大眾之間日益加速的分化。按照尤瓦爾的觀點(diǎn)，照這個(gè)趨勢，過不了多久，人類將會分化成兩個(gè)階層：上神和廢物。蔡斯進(jìn)一步認(rèn)為：經(jīng)濟(jì)奇點(diǎn)出現(xiàn)后會出現(xiàn)兩大分歧。首先，如果絕大多數(shù)人失去工作，那精英群體和普通大眾之間基本上就不會有任何流動(dòng)——也就是說，不再有社會流動(dòng)。全世界概莫能外。如果你沒有有償工作，就很難積累資本。其次，技術(shù)進(jìn)步速度繼續(xù)加快，精英群體多半會利用認(rèn)知增強(qiáng)技術(shù)和身體增強(qiáng)技術(shù)，從身體和認(rèn)知上跟普通大眾分道揚(yáng)鑣。[15]

筆者認(rèn)為，未來世界可能會有兩種不同樣式的社會形態(tài)選擇。一種選擇是超現(xiàn)代奴役社會，這個(gè)社會建立在私有制基礎(chǔ)之上，并由極少數(shù)精英群體對普通大眾實(shí)施統(tǒng)治，人工智能和機(jī)器人成為其高科技統(tǒng)治工具和暴力機(jī)器，這些精英群體由于掌握特權(quán)而加速進(jìn)化并理所當(dāng)然地演變成獨(dú)立的種群——統(tǒng)治種群，也就是尤瓦爾講的所謂“上神”;而普通大眾在與機(jī)器競爭中淪落為無用階層，在與精英進(jìn)化競爭中被遠(yuǎn)遠(yuǎn)拋下，最終淪落為被統(tǒng)治種群，也就是尤瓦爾講的所謂“廢物”。另一種選擇就是馬克思指出的“自由人聯(lián)合體”，這個(gè)社會建立在公有制基礎(chǔ)之上，沒有統(tǒng)治與被統(tǒng)治，沒有剝削與被剝削，沒有奴役與被奴役，沒有階級和階級對立，在這個(gè)社會，文明達(dá)到空前的程度，所有的貨物都是機(jī)器生產(chǎn)的，所有的服務(wù)都是機(jī)器提供的，人人都享受到智能機(jī)器帶來的利惠，人人都覺得不需要工作的人生很有意義，人們快樂地生活、學(xué)習(xí)、做自己喜歡的工作和進(jìn)行創(chuàng)造，當(dāng)然收入和科技成果的獲得也不會出現(xiàn)兩極分化。這個(gè)社會樣式，本質(zhì)上就是馬克思所設(shè)想的未來科學(xué)的社會主義和共產(chǎn)主義，在這個(gè)嶄新的人類文明形態(tài)中，“每個(gè)人的自由發(fā)展是一切人的自由發(fā)展的條件。”

社會形態(tài)的更替，歸根結(jié)底是生產(chǎn)力沖破了舊有生產(chǎn)關(guān)系的束縛，而科學(xué)技術(shù)是生產(chǎn)力中最具革命性的因素。由于人工智能的爆發(fā)式發(fā)展，任何形式的私有制對其都會構(gòu)成限制和威脅，也正因?yàn)樗接兄票旧淼呢澙?，人工智能滾滾向前的發(fā)展也同時(shí)成為私有制本身不可擺脫的宿命，其結(jié)果必然是人類社會在新時(shí)代的發(fā)展，將摧毀一切私有制，從而給人工智能等科技和生產(chǎn)力的發(fā)展開辟道路，并直接導(dǎo)向全新的公有制社會。只有全人類高度統(tǒng)一的公有制，才能容納下人工智能所引發(fā)的生產(chǎn)力大革命，同樣，也只有人工智能的大革命才能真正實(shí)現(xiàn)在全人類范圍內(nèi)的公有制。因此，即使會出現(xiàn)超現(xiàn)代奴役社會，它也只能是資本主義私有制的最高和最后階段，而且注定長久不了，最終將會被自由人聯(lián)合體的高級文明社會形態(tài)所取代。人工智能最初是作為生產(chǎn)工具而存在的，其目的是對勞動(dòng)力的替代，而發(fā)展的結(jié)果卻是，勞動(dòng)力得到了全面的解放，人工智能本身也加入到人類社會目的中來。至此，階級社會走向終結(jié)，人類社會消除了階級對立和階級沖突，從而在人工智能和機(jī)器人的協(xié)助下走向永恒。

5.人工智能帶來的最根本也是最不確定的風(fēng)險(xiǎn)就是“技術(shù)奇點(diǎn)”來臨——人工智能或許開始擺脫人類的控制。早在1965年，計(jì)算機(jī)之父圖靈的同事、英國數(shù)學(xué)家古德就曾寫到“第一臺超級智能機(jī)器人是人類最不應(yīng)該發(fā)明的東西。”他認(rèn)為：“既然機(jī)器人的設(shè)計(jì)是人類智能活動(dòng)的一種產(chǎn)物，那超級智能機(jī)器人也會設(shè)計(jì)出更好的機(jī)器人;那么毫無疑問，人工智能會導(dǎo)致“智能爆炸”。[16]2005年，庫茲韋爾發(fā)表《奇點(diǎn)臨近》，將人工智能奇點(diǎn)理論推向科技界的風(fēng)口浪尖。庫茲韋爾的一個(gè)創(chuàng)見是提出了“加速回報(bào)定律”(亦稱庫茲韋爾定律)，該定律認(rèn)為：信息科技的發(fā)展按照指數(shù)規(guī)模爆炸，導(dǎo)致存儲能力、計(jì)算能力、芯片規(guī)模、帶寬的規(guī)模暴漲。其中一個(gè)很好的例子就是“摩爾定律”，即一塊芯片能容納的晶體管數(shù)量每隔18個(gè)月左右就會翻番。事實(shí)證明，半導(dǎo)體行業(yè)幾十年來的發(fā)展趨勢一直遵循摩爾定律。而信息技術(shù)發(fā)展的其他指標(biāo)，包括網(wǎng)絡(luò)帶寬，也一直以指數(shù)級速度增長。不僅如此，英國著名人工智能科學(xué)家默里.沙納漢進(jìn)一步指出：“在醫(yī)學(xué)領(lǐng)域，DNA測序的成本快速下降，測序的速度則呈指數(shù)上升，大腦掃描的分辨率也在以指數(shù)級速度上升。”“我們不難相信，不管是人工智能還是人類智能，都會遵循加速回報(bào)定律，最終到達(dá)技術(shù)奇點(diǎn)”“人工智能和神經(jīng)技術(shù)這兩個(gè)領(lǐng)域的技術(shù)進(jìn)步會加速奇點(diǎn)的到來。”[17]庫茲韋爾同樣據(jù)此預(yù)言：2029年，機(jī)器人智能將能夠與人類匹敵;2030年，人類將與人工智能結(jié)合變身“混血兒”，特別是腦機(jī)結(jié)合;2045年，人與機(jī)器將深度融合，嚴(yán)格生物學(xué)意義上的人類將不復(fù)存在，奇點(diǎn)來臨，人工智能將超過人類本身，并將開啟一個(gè)新的文明時(shí)代。[18]2015年，霍金、馬斯克等一批科學(xué)家、企業(yè)家聯(lián)名發(fā)出一封公開信，呼吁人們必須更多地注意人工智能的安全性及其社會效益，要警惕其過度發(fā)展，因?yàn)榈玫匠浞职l(fā)展的人工智能或許預(yù)示著人類最終被超越。馬斯克認(rèn)為，按人工智能的發(fā)展進(jìn)度，在不久的將來，機(jī)器可能以不斷加快的速度重新設(shè)計(jì)自己，超越受制于生物進(jìn)化速度的人類，最終擺脫人類的控制，并開始“政變”，因此，人工智能很可能是人類遇到的最嚴(yán)重的“生存風(fēng)險(xiǎn)”[19]。尤瓦爾指出，人工智能不僅僅是21世紀(jì)最重要的科學(xué)進(jìn)化，也不只是我們?nèi)祟悮v史上最重要的科學(xué)進(jìn)化，甚至可能是整個(gè)生命創(chuàng)始以來最重要的原則。在我們的有生之年，有可能看到有機(jī)生命會逐步被無機(jī)生命所替代。這是我們有生命以來的40億年當(dāng)中第一次出現(xiàn)的一個(gè)重大變局。[20]

當(dāng)前，許多科學(xué)家認(rèn)為，雖然現(xiàn)在還處于弱人工智能的階段，但只要技術(shù)持續(xù)發(fā)展下去，強(qiáng)人工智能乃至超級人工智能必然會出現(xiàn)，這只是個(gè)時(shí)間問題。當(dāng)機(jī)器的智慧反超人類，超級智能出現(xiàn)之時(shí)，人類將可能無法理解并控制自己的造物，機(jī)器可能反客為主，這對人類而言是致命的、災(zāi)難性的。這是個(gè)值得全人類深思的問題。這個(gè)問題不僅僅與技術(shù)相關(guān)，而本質(zhì)上與人本身的性質(zhì)相關(guān)，與人類社會前途命運(yùn)相關(guān)。因此，在投資于技術(shù)發(fā)展的同時(shí)，國家和政府還應(yīng)當(dāng)對其可能產(chǎn)生的廣泛的社會影響進(jìn)行及時(shí)而深入的研究，共同采取防范措施，確保人工智能朝著有益、安全、可控的方向發(fā)展。

把人工智能將會給人類社會帶來的風(fēng)險(xiǎn)和挑戰(zhàn)概括為五個(gè)方面的“奇點(diǎn)來臨”，并不意味著這些風(fēng)險(xiǎn)和挑戰(zhàn)會在某個(gè)時(shí)間點(diǎn)同時(shí)爆發(fā)。沿著技術(shù)加速進(jìn)步的時(shí)間軌跡，我們可以嘗試將人工智能的發(fā)展階段再進(jìn)一步細(xì)分，在弱人工智能階段，可以分為計(jì)算智能階段、感知智能階段和認(rèn)知智能階段，目前我們正處在感知智能階段并開始向認(rèn)知智能邁進(jìn)，認(rèn)知智能也許可以在2030年前后實(shí)現(xiàn)，而之后的20年將是實(shí)現(xiàn)強(qiáng)人工智能的階段，這個(gè)大階段可以分為上半場和下半場，而下半場的頂點(diǎn)就意味著與人類智能相匹敵的強(qiáng)人工智能的到來，按照多數(shù)人的看法，這個(gè)技術(shù)奇點(diǎn)最快也許可以在2050年前后來臨。按照上述階段劃分，一個(gè)更加合理的邏輯是，規(guī)范奇點(diǎn)應(yīng)當(dāng)在感知智能階段來臨，實(shí)際上我們正處于這個(gè)階段，需要回答的法律和倫理問題已經(jīng)擺在我們面前，2020年之后，規(guī)范沖突會大量爆發(fā)。在弱人工智能的認(rèn)知智能階段，或者在2030年之前，經(jīng)典理論奇點(diǎn)肯定會來臨，屆時(shí)將需要對理論范式進(jìn)行重構(gòu)。經(jīng)濟(jì)奇點(diǎn)應(yīng)當(dāng)會在強(qiáng)人工智能的上半場來臨，2035年前后，發(fā)達(dá)國家超過一半的工作崗位將被機(jī)器替代。到了強(qiáng)人工智能的下半場，經(jīng)濟(jì)、技術(shù)和社會進(jìn)入劇烈變化的階段，2045年前后社會形態(tài)奇點(diǎn)將會來臨，人類進(jìn)入一個(gè)新紀(jì)元。緊接著，隨著技術(shù)的快速推進(jìn)，人類將在2050年前后迎來技術(shù)奇點(diǎn)的到來，強(qiáng)人工智能得以實(shí)現(xiàn)并毫不停留地邁向超級智能。當(dāng)然，以上表述邏輯只是本文的一個(gè)邏輯性概況，實(shí)際情況會復(fù)雜很多，這些奇點(diǎn)之間肯定會有相互重疊和疊加。

三、若干思考與建議

人工智能是科學(xué)技術(shù)進(jìn)步的集大成者，處在當(dāng)今科技革命的最前沿，代表著人類科技發(fā)展的嶄新方向，在可預(yù)見的將來，它必將全面重塑世界。

在人工智能戰(zhàn)略競爭中，美國一直領(lǐng)先，而中國正在全力趕上，在部分領(lǐng)域已經(jīng)開始超越。總體而言，未來人工智能的競爭將主要集中在中美兩國之間。這個(gè)態(tài)勢，美國也看得很清楚。據(jù)2017年12月25日《參考消息》轉(zhuǎn)載美國詹姆斯敦基金會網(wǎng)站報(bào)道，意識到中國人工智能技術(shù)的快速崛起，美國12月中旬發(fā)布的國家安全戰(zhàn)略報(bào)告宣布“為了保持我們的競爭優(yōu)勢，美國將優(yōu)先發(fā)展對經(jīng)濟(jì)發(fā)展和安全至關(guān)重要的新型技術(shù)。”美國國家安全戰(zhàn)略報(bào)告尤其強(qiáng)調(diào)人工智能發(fā)展極其迅速，而且會給美國國家安全帶來越來越大的挑戰(zhàn)，并且以中國作為“戰(zhàn)略競爭者”?？梢?，在未來國家科技戰(zhàn)略競爭中，中國只能前進(jìn)，不容后退。

當(dāng)下及未來幾十年，我們應(yīng)緊緊抓住歷史性機(jī)遇，大力促進(jìn)人工智能造福于人民，全力打造世界科技強(qiáng)國的戰(zhàn)略地位，同時(shí)，為人工智能的未來做好準(zhǔn)備，及時(shí)控制和防范由此帶來的風(fēng)險(xiǎn)與挑戰(zhàn)，安全度過五個(gè)奇點(diǎn)階段，全力構(gòu)建人類命運(yùn)共同體，為世界發(fā)展與安全作出中國的貢獻(xiàn)。為此，筆者提出以下政策建議。

1.建議把人工智能技術(shù)創(chuàng)新及其風(fēng)險(xiǎn)挑戰(zhàn)納入人類命運(yùn)共同體范疇，力爭為人類作出新的更大的貢獻(xiàn)。黨的十九大明確提出“中國共產(chǎn)黨始終把為人類作出新的更大貢獻(xiàn)作為自己的使命”，這個(gè)新使命給全世界以極大的鼓舞和信心。同時(shí)，當(dāng)前世界也面臨各種風(fēng)險(xiǎn)和挑戰(zhàn)，其中，由于科技革命本身帶來的問題和挑戰(zhàn)正日益引起人們的普遍擔(dān)憂。比如，人工智能陸續(xù)來臨的奇點(diǎn)，可能會給人類社會帶來巨大沖擊，這就需要全球共同應(yīng)對?；趯Τ壢斯ぶ悄芸赡軐θ祟悩?gòu)成的威脅，霍金也多次呼吁，人類要團(tuán)結(jié)起來，各國政府、科技領(lǐng)袖、企業(yè)領(lǐng)袖攜起手來，簽署國際條約，極盡所能地避免不可控的人工智能的崛起，正如人們簽署條約禁止核武器擴(kuò)散一樣。[21]在致2015世界機(jī)器人大會的賀信中，習(xí)近平總書記明確指出：“以機(jī)器人科技為代表的智能產(chǎn)業(yè)蓬勃興起，成為現(xiàn)時(shí)代科技創(chuàng)新的一個(gè)重要標(biāo)志”“中國將機(jī)器人和智能制造納入了國家科技創(chuàng)新的優(yōu)先重點(diǎn)領(lǐng)域，我們愿加強(qiáng)同各國科技界、產(chǎn)業(yè)界的合作，推動(dòng)機(jī)器人科技研發(fā)和產(chǎn)業(yè)化進(jìn)程，使機(jī)器人科技及其產(chǎn)品更好為推動(dòng)發(fā)展、造福人民服務(wù)。”[22]在致2017年第四屆世界互聯(lián)網(wǎng)大會的賀信中，習(xí)近平主席在充分肯定互聯(lián)網(wǎng)成就時(shí)，又特別強(qiáng)調(diào)指出：“互聯(lián)網(wǎng)發(fā)展也給世界各國主權(quán)、安全、發(fā)展利益帶來許多新的挑戰(zhàn)。全球互聯(lián)網(wǎng)治理體系變革進(jìn)入關(guān)鍵時(shí)期，構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體日益成為國際社會的廣泛共識。”為此，還專門提出了互聯(lián)網(wǎng)治理的“四項(xiàng)原則”“五點(diǎn)主張”。這充分說明中央對科學(xué)技術(shù)安全發(fā)展的極端重視。但是，當(dāng)前，在國內(nèi)談及人類命運(yùn)共同體時(shí)，仍然更多是從政治、外交、軍事、經(jīng)濟(jì)、社會的角度出發(fā)，闡述對傳統(tǒng)安全及非傳統(tǒng)安全的應(yīng)對，對科技安全、對科技革命所可能帶來的風(fēng)險(xiǎn)挑戰(zhàn)研究得并不深入，尤其是對人工智能“技術(shù)奇點(diǎn)”“經(jīng)濟(jì)奇點(diǎn)”“經(jīng)典理論奇點(diǎn)”“規(guī)范奇點(diǎn)”和“文明形態(tài)奇點(diǎn)”缺乏系統(tǒng)研究，缺乏自己的話語和聲音，更缺乏從全人類未來命運(yùn)的立場研究和闡釋中國的智慧和解決方案，因此，這也應(yīng)當(dāng)成為中國倡導(dǎo)構(gòu)建人類命運(yùn)共同體的一個(gè)全新視角。

2.建議為人工智能的未來做好準(zhǔn)備。為中國計(jì)、為人類計(jì)，為當(dāng)下及其以后計(jì)，我們需要立即行動(dòng)起來，在落實(shí)好已出臺的各項(xiàng)戰(zhàn)略部署的同時(shí)，還要著重開展以下幾方面工作：一是深入研究人工智能帶來的一系列法律及倫理道德問題，這些新的法律規(guī)則和倫理規(guī)范既要保護(hù)社會，也要促進(jìn)和包容技術(shù)創(chuàng)新和實(shí)驗(yàn)，既要維護(hù)基本的家庭和社會道德，也要給予人和機(jī)器多面向發(fā)展關(guān)系的空間。二是深入研究人工智能“經(jīng)濟(jì)奇點(diǎn)”來臨時(shí)，如何解決“機(jī)器吃人”導(dǎo)致的大量失業(yè)和社會公平、社會穩(wěn)定問題。早在2014年中央財(cái)經(jīng)領(lǐng)導(dǎo)小組第七次會議上，習(xí)近平總書記就明確指出：“要把握好科技創(chuàng)新和穩(wěn)定就業(yè)的平衡點(diǎn)，既要堅(jiān)定不移加快創(chuàng)新，也要實(shí)施有效的社會政策特別是教育和社保政策，解決增強(qiáng)勞動(dòng)人口就業(yè)能力和保障基本生活問題，確保社會大局穩(wěn)定。”[23]面對人工智能這個(gè)全新的技術(shù)創(chuàng)新，這個(gè)問題就顯得更加迫切和緊要。三是深入研究人工智能“經(jīng)典理論奇點(diǎn)”和“社會形態(tài)奇點(diǎn)”所帶來的重大思想、理論和實(shí)踐問題，比如高校可以在馬克思主義學(xué)院的基礎(chǔ)上構(gòu)建全新的“馬克思主義與未來學(xué)院”，努力開拓面向未來的中國哲學(xué)、中國政治經(jīng)濟(jì)學(xué)、中國社會學(xué)、中國法學(xué)、社會主義未來學(xué)、中國未來學(xué)、人類未來學(xué)?？傊咝?yīng)該把更多的力量用于探索人類的未來，而不僅僅是流連忘返于過去。四是在全國全社會開展人工智能的義務(wù)教育、高中教育、大學(xué)教育和社會培訓(xùn)，讓每個(gè)公民，從小就接受人工智能的科普知識，接受人工智能科學(xué)素質(zhì)教育，全面培養(yǎng)人工智能人才，讓每個(gè)公民都具備在未來人工智能社會生存、工作和發(fā)展的知識和技能，以及與此相關(guān)的其他素質(zhì)和能力。五是深入研究人工智能“技術(shù)奇點(diǎn)”及其可能性和相應(yīng)的控制和救濟(jì)措施，進(jìn)行跨學(xué)科的深度研究，制定相關(guān)的安全戰(zhàn)略;六是由中央牽頭，在立足科學(xué)技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用的基礎(chǔ)上，在國家已出臺各項(xiàng)戰(zhàn)略、規(guī)劃、政策的基礎(chǔ)上，充分考慮上述各項(xiàng)建議內(nèi)容，研究出臺內(nèi)容全面的人工智能發(fā)展的基本指針，并將其定位為國家戰(zhàn)略，向全社會發(fā)布，供全國遵守貫徹和執(zhí)行，從而為未來做好準(zhǔn)備，也為世界貢獻(xiàn)中國智慧和方案。