日本自2016年在《第五期科學(xué)技術(shù)基本計(jì)劃》中提出“Society 5.0”發(fā)展目標(biāo)以來,各部門、學(xué)會(huì)、社會(huì)團(tuán)體圍繞人工智能社會(huì)展開積極探討,發(fā)布了系列研究報(bào)告、執(zhí)法指南等。2018年12月27日,日本內(nèi)閣府發(fā)布《以人類為中心的人工智能社會(huì)原則》(以下簡(jiǎn)稱《原則》),是迄今為止日本為推進(jìn)人工智能發(fā)展發(fā)布的最高級(jí)別的政策文件,從宏觀和倫理角度表明了日本政府的態(tài)度。在公開征求意見后,計(jì)劃于2019年3月正式發(fā)布。
《原則》肯定了人工智能的重要作用,同時(shí)強(qiáng)調(diào)重視其負(fù)面影響,如社會(huì)不平等、等級(jí)差距擴(kuò)大、社會(huì)排斥等問題。主張?jiān)谕七M(jìn)人工智能技術(shù)研發(fā)時(shí),綜合考慮其對(duì)人類、社會(huì)系統(tǒng)、產(chǎn)業(yè)構(gòu)造、創(chuàng)新系統(tǒng)、政府等帶來的影響,構(gòu)建能夠使人工智能有效且安全應(yīng)用的“AI-Ready社會(huì)”,對(duì)我們正確看待“人機(jī)關(guān)系”,更好引領(lǐng)和適應(yīng)人工智能發(fā)展具有借鑒意義。
1、怎樣理解人工智能社會(huì)的本質(zhì)
對(duì)人工智能的利用不能僅僅停留在實(shí)現(xiàn)效率、便利等現(xiàn)實(shí)利益層面,人工智能作為人類的公共財(cái)富,要通過推動(dòng)社會(huì)方式的根本變革和真正創(chuàng)新,來實(shí)現(xiàn)全球可持續(xù)發(fā)展目標(biāo)。人工智能社會(huì)需要體現(xiàn)以下三個(gè)基本理念:
(1)尊嚴(yán):人工智能社會(huì)是尊重人類尊嚴(yán)的社會(huì)。應(yīng)將人工智能作為人類的工具之一,使人類能進(jìn)一步發(fā)揮自身能力和創(chuàng)造性,通過從事具有意義的工作得到物質(zhì)上、精神上的富足。
(2)多元包容:使用人工智能技術(shù),不只為實(shí)現(xiàn)提升便利、解放勞動(dòng)等傳統(tǒng)效率目標(biāo),要能夠使具有多元背景和價(jià)值觀、想法的每個(gè)人都能獲得幸福,對(duì)多元化采取靈活、包容的姿態(tài),推動(dòng)新價(jià)值創(chuàng)造。
(3)可持續(xù):通過靈活使用人工智能,強(qiáng)化科學(xué)技術(shù)儲(chǔ)備,催生新的商業(yè)模式和解決方案,實(shí)現(xiàn)科技創(chuàng)新立國(guó),減少社會(huì)差距、緩解全球環(huán)境問題等,推動(dòng)可持續(xù)社會(huì)的構(gòu)筑。
2、接納人工智能,你準(zhǔn)備好了嗎
人工智能、物聯(lián)網(wǎng)、機(jī)器人、超高速寬帶通信網(wǎng)等都是實(shí)現(xiàn)“Society 5.0”的重要技術(shù)。人工智能友好型的基礎(chǔ)設(shè)施是實(shí)現(xiàn)超級(jí)智能化社會(huì)所必需的一種變革。“設(shè)定怎樣的目的去使用人工智能”是人類必須考慮的問題。為此,《原則》分別從人類、社會(huì)系統(tǒng)、產(chǎn)業(yè)構(gòu)造、創(chuàng)新系統(tǒng)、政府監(jiān)管五個(gè)維度勾勒了“AI-Ready社會(huì)”的愿景。
第一,人類。AI-Ready社會(huì)對(duì)人類能力的要求體現(xiàn)在三個(gè)方面:(1)有能力充分理解人工智能的優(yōu)點(diǎn)和缺點(diǎn)。作為人工智能信息來源的數(shù)據(jù)、算法存在“偏誤”人可能性,也可能會(huì)被用于不合理目的。其中,數(shù)據(jù)的偏誤主要有統(tǒng)計(jì)層面的偏誤、社會(huì)形態(tài)產(chǎn)生的偏誤以及人工智能使用者惡意產(chǎn)生的偏誤;(2)能夠使人們從事具有較高創(chuàng)造性、生產(chǎn)性的勞動(dòng)。通過人工智能的幫助能夠使人們基于出身、文化、興趣等,獲得實(shí)現(xiàn)夢(mèng)想和發(fā)揮創(chuàng)意的能力。為此需要推動(dòng)教育體系及其相關(guān)社會(huì)制度的構(gòu)筑;(3)具有數(shù)據(jù)、人工智能基礎(chǔ)知識(shí)和實(shí)施、設(shè)計(jì)等應(yīng)用能力,跨領(lǐng)域、綜合性、融合性的大量人才。這類人才是推動(dòng)AI-Ready社會(huì)所有活動(dòng)的原動(dòng)力,能夠?yàn)闃?gòu)建靈活使用人工智能的生活環(huán)境貢獻(xiàn)力量,構(gòu)建人們得以更加富足、充實(shí)生活的社會(huì)制度。
第二,社會(huì)系統(tǒng)。人工智能的使用能夠推動(dòng)個(gè)性化服務(wù)、解決方案的升級(jí)和效率化。為了使這些優(yōu)勢(shì)得以在社會(huì)層面廣泛應(yīng)用,需要醫(yī)療、金融、保險(xiǎn)、交通、能源等在內(nèi)的社會(huì)系統(tǒng)整體的靈活調(diào)整,以應(yīng)對(duì)人工智能帶來的變革。從社會(huì)系統(tǒng)角度,需要強(qiáng)化“軟件”和“硬件”兩個(gè)方面,形成有助于實(shí)現(xiàn)具有擴(kuò)充性、互聯(lián)性、發(fā)展性秩序的柔性架構(gòu)設(shè)計(jì)。此外,為了保障社會(huì)系統(tǒng)整體的互聯(lián)、協(xié)作,尤其需要建立各類社會(huì)系統(tǒng)間互聯(lián)共通的數(shù)據(jù)應(yīng)用基礎(chǔ)支撐平臺(tái)。
第三,產(chǎn)業(yè)構(gòu)造。為了使多元化的創(chuàng)意和理想得以實(shí)現(xiàn),需要靈活地構(gòu)筑面向國(guó)際的開放的勞動(dòng)、雇傭和創(chuàng)業(yè)環(huán)境。需要企業(yè)實(shí)施公平競(jìng)爭(zhēng)、采取靈活的工作方式,使人類的創(chuàng)造力通過產(chǎn)業(yè)能夠得以持續(xù)發(fā)揮,從而拉動(dòng)創(chuàng)新創(chuàng)業(yè)投資。
第四,創(chuàng)新系統(tǒng)。大學(xué)、科研機(jī)構(gòu)、企業(yè)以及民眾都可以跨越領(lǐng)域和立場(chǎng),參與到人工智能研發(fā)、利用及評(píng)估中。構(gòu)建使所有數(shù)據(jù)能及時(shí)、安全達(dá)到被人工智能解析程度、任何人均可安心提供數(shù)據(jù)、并能夠從中獲得應(yīng)有收益的環(huán)境。研發(fā)人員和用戶均可安心從事人工智能研發(fā)及應(yīng)用,通過研發(fā)與應(yīng)用的快速循環(huán)運(yùn)轉(zhuǎn),加速人工智能發(fā)展。通過人工智能應(yīng)用進(jìn)一步產(chǎn)生新的創(chuàng)意,催生更多的可能性,進(jìn)一步擴(kuò)大創(chuàng)新的范圍。
第五,政府監(jiān)管。隨著社會(huì)形勢(shì)變化和技術(shù)發(fā)展,人類、社會(huì)系統(tǒng)、產(chǎn)業(yè)結(jié)構(gòu)和創(chuàng)新系統(tǒng)的相關(guān)內(nèi)容和目標(biāo)也會(huì)隨之更新。需要產(chǎn)學(xué)官民等利益相關(guān)方相互協(xié)作、共同提出規(guī)則、制度、標(biāo)準(zhǔn)化、行為規(guī)范等方面的監(jiān)管課題,評(píng)估影響,構(gòu)建能夠表達(dá)利益訴求并付諸實(shí)施的法律及監(jiān)管體制,兼顧較難表達(dá)呼聲的社會(huì)群體的意見。采取包括技術(shù)手段在內(nèi)的企業(yè)層面的自主性規(guī)制,構(gòu)建較為靈活且具實(shí)效性的監(jiān)管方式。為了應(yīng)對(duì)跨境問題,還需要建立國(guó)際合作協(xié)調(diào)機(jī)制。
3、為什么要給人工智能戴上緊箍?jī)?/strong>
科技的發(fā)展越來越迅速,而普通人對(duì)于復(fù)雜的黑科技也越來越難以理解。人類社會(huì)根據(jù)適用對(duì)象的不同,需要對(duì)人工智能的發(fā)展方向加以疏導(dǎo)和限制,避免可能出現(xiàn)的失控局面。這就需要一些相對(duì)具體的指導(dǎo)原則進(jìn)行引領(lǐng)。
第一,人類中心原則。人工智能的使用不得侵害憲法和國(guó)際規(guī)范保障的基本人權(quán)。人工智能的研發(fā)、推廣、運(yùn)用應(yīng)該被用于提升拓展人的能力,使人類獲得多元幸福。為了防止人類過度依賴人工智能、惡意使用人工智能操縱人類意思決定的行為,需要把握以下原則:(1)人工智能不僅僅用來代替部分人力勞動(dòng),還可以作為高級(jí)工具輔助人類,從而拓展人類能力和創(chuàng)造性。(2)在人工智能利用中,人類自己可以判斷和決定如何使用人工智能。對(duì)使用人工智能帶來的后果和責(zé)任,根據(jù)問題性質(zhì)在研發(fā)、提供、運(yùn)用等利益相關(guān)者之間妥當(dāng)分配。(3)在人工智能普及過程中,防止出現(xiàn)“信息弱者”和“技術(shù)弱者”群體,建立能夠使人工智能帶來的恩惠普及所有人的、易于使用的系統(tǒng)。
第二,教育應(yīng)用原則。平等地向所有人提供教育、培育應(yīng)用的教育環(huán)境:(1)在幼兒教育、初等中等教育中提供廣泛的教育機(jī)會(huì),為社會(huì)人和老年人提供重新學(xué)習(xí)的機(jī)會(huì)。(2)建立人人都能掌握人工智能、數(shù)理、數(shù)據(jù)科學(xué)等相關(guān)素養(yǎng)的教育系統(tǒng),超越文理學(xué)科界限強(qiáng)化學(xué)習(xí)。在應(yīng)用教育中,設(shè)置有助于認(rèn)識(shí)到數(shù)據(jù)偏誤及使用方法偏誤等人工智能、數(shù)據(jù)相關(guān)特性的內(nèi)容,以及人工智能公平性、公正性、隱私保護(hù)等相關(guān)內(nèi)容。(3)從單方向、均一化教育方式轉(zhuǎn)變?yōu)榧ぐl(fā)人類興趣和力量。始終保持靈活轉(zhuǎn)變的意識(shí),靈活運(yùn)用人工智能,構(gòu)建防止弱勢(shì)群體出現(xiàn)的交互式教育環(huán)境。(4)完善教育環(huán)境并不是給行政部門和學(xué)校(教師)增加負(fù)擔(dān),民間企業(yè)和普通市民要發(fā)揮自主性。
第三,保護(hù)隱私原則。人工智能社會(huì)中,依據(jù)個(gè)人行動(dòng)等數(shù)據(jù)可以高精度推斷其政治立場(chǎng)、經(jīng)濟(jì)狀況、興趣愛好等。這意味著需要謹(jǐn)慎對(duì)待個(gè)人數(shù)據(jù):(1)對(duì)個(gè)人數(shù)據(jù)的使用,包括政府使用行為在內(nèi),不得侵犯?jìng)€(gè)人自由、尊嚴(yán)和平等;(2)對(duì)個(gè)人數(shù)據(jù)中涉及隱私的部分,確保使用行為的正確性、正當(dāng)性,以及本人能夠?qū)嵸|(zhì)性地參與,并從中得到適當(dāng)益處;(3)個(gè)人數(shù)據(jù)必須根據(jù)其重要性和需求性得到妥善保護(hù),基于文化背景和社會(huì)共同理念,把握使用和保護(hù)之間的平衡。
第四,保障安全原則。人工智能在實(shí)現(xiàn)社會(huì)系統(tǒng)自動(dòng)化、提升安全性的同時(shí),在目前能夠設(shè)想的技術(shù)范圍內(nèi),對(duì)于稀有現(xiàn)象和故意攻擊行為人工智能無法做到總是能夠正確應(yīng)對(duì),在安全方面存在新的風(fēng)險(xiǎn)。因此,需要把握利益與風(fēng)險(xiǎn)之間的平衡,從整體上提高社會(huì)的安全性和可持續(xù)性:(1)推進(jìn)正確評(píng)估人工智能風(fēng)險(xiǎn)及降低風(fēng)險(xiǎn)的研究、人工智能深度研發(fā)以及包含安全保障在內(nèi)的風(fēng)險(xiǎn)管理;(2)重視人工智能使用的可持續(xù)性,不一味依賴特定的、單一的或者少數(shù)幾個(gè)特定的人工智能。
第五,公平競(jìng)爭(zhēng)原則。維護(hù)能夠推動(dòng)商業(yè)模式和服務(wù)創(chuàng)新,維持經(jīng)濟(jì)持續(xù)增長(zhǎng)和解決社會(huì)課題的公平的競(jìng)爭(zhēng)環(huán)境:(1)不應(yīng)形成特定國(guó)家基于對(duì)人工智能相關(guān)資源的集中,利用其支配地位實(shí)施不當(dāng)?shù)臄?shù)據(jù)收集和侵害主權(quán)行為的社會(huì);(2)不應(yīng)形成特定企業(yè)基于對(duì)人工智能相關(guān)資源的集中,利用其支配地位實(shí)施不當(dāng)?shù)臄?shù)據(jù)收集和不公平競(jìng)爭(zhēng)行為的社會(huì);(3)不應(yīng)形成由于人工智能的使用,導(dǎo)致財(cái)富和社會(huì)影響力不當(dāng)?shù)丶杏诓糠掷嫦嚓P(guān)者的社會(huì)。
第六,公平性、說明責(zé)任及透明性原則。為了避免人工智能的使用導(dǎo)致個(gè)人因背景不同而遭受不當(dāng)?shù)牟顒e待遇,或者使人在尊嚴(yán)層面遭受不正當(dāng)待遇,需要確保公平、透明的意思決定,以及對(duì)意思決定結(jié)果的說明義務(wù),確保技術(shù)的可信賴性:(1)在人工智能設(shè)計(jì)理念下,人不應(yīng)由于人種、性別、國(guó)籍、年齡、政治信念、宗教等背景被不當(dāng)?shù)夭顒e對(duì)待;(2)對(duì)使用人工智能事實(shí)、人工智能數(shù)據(jù)的取得方法及使用方法、確保人工智能運(yùn)行結(jié)構(gòu)正確性的相關(guān)措施等,都需要根據(jù)情況予以說明;(3)為使人能夠理解并判斷人工智能提案,對(duì)于人工智能的使用、采納、運(yùn)用都應(yīng)該根據(jù)需要設(shè)置溝通對(duì)話場(chǎng)所;(4)使社會(huì)能夠安心靈活使用人工智能,需要保障人工智能以及數(shù)據(jù)的可信賴性。
第七,創(chuàng)新原則。(1)為實(shí)現(xiàn)持續(xù)創(chuàng)新,需要跨越國(guó)境、產(chǎn)學(xué)官民、人種、性別、國(guó)籍、年齡、政治理念、宗教等界限,從人才、研究?jī)蓚€(gè)方面,大力推進(jìn)國(guó)際化、多樣化以及產(chǎn)學(xué)官民合作;(2)推動(dòng)大學(xué)、研究機(jī)構(gòu)、企業(yè)間的平等合作以及人才流動(dòng);(3)推進(jìn)人工智能品質(zhì)及可信賴性的確認(rèn)方法、效率性數(shù)據(jù)收集及整理方法、人工智能開發(fā)、測(cè)試、運(yùn)用方法論等人工智能工學(xué)的確立;(4)在確保個(gè)人隱私和安全的前提下,打破數(shù)據(jù)壟斷,推動(dòng)數(shù)據(jù)跨國(guó)境流動(dòng)使用,完善國(guó)際合作,構(gòu)筑人工智能計(jì)算機(jī)資源、高速網(wǎng)絡(luò)共用的研發(fā)環(huán)境;(5)推進(jìn)人工智能技術(shù)的社會(huì)應(yīng)用,政府對(duì)成為阻礙因素的規(guī)制內(nèi)容實(shí)施改革。
4、我們對(duì)人工智能型社會(huì)有怎樣的期待
對(duì)于人工智能開發(fā)者和經(jīng)營(yíng)者來說,需要遵守基本理念和上述人工智能社會(huì)原則的基礎(chǔ)上,制定并遵守人工智能開發(fā)利用原則。目前已經(jīng)有不少國(guó)家、團(tuán)體、企業(yè)都已經(jīng)對(duì)人工智能開發(fā)利用原則開展探討,但是,目前尚未達(dá)成國(guó)際共識(shí)。因此,本《原則》強(qiáng)調(diào)日本需要積極制定本國(guó)的開發(fā)利用原則,通過開放式探討,積極推動(dòng)國(guó)際非規(guī)制性、非約束性原則框架的達(dá)成。2016年,日本政府在G7信息通信部長(zhǎng)會(huì)議上提出人工智能研發(fā)8項(xiàng)基本原則,并提議創(chuàng)設(shè)討論國(guó)際統(tǒng)一標(biāo)準(zhǔn)的國(guó)際會(huì)議。
當(dāng)前,人工智能不僅與實(shí)體經(jīng)濟(jì)深度融合,對(duì)于社會(huì)發(fā)展、貧富差距、政府治理、資源枯竭、全球環(huán)境問題和科學(xué)研究等關(guān)乎人類可持續(xù)發(fā)展的重大課題都有重要影響。加上日本自身面臨少子高齡化、勞動(dòng)力不足、地方稀疏化、財(cái)政支出負(fù)擔(dān)等社會(huì)經(jīng)濟(jì)問題,因此,日本政府對(duì)人工智能的發(fā)展和廣泛應(yīng)用寄予厚望。其人工智能的內(nèi)涵并不局限于技術(shù)層面的人工智能,而是泛指“高度復(fù)雜的智能社會(huì)體系”。
值得一提的是,《原則》在尊重人類尊嚴(yán)、實(shí)現(xiàn)人工智能可信賴性等方面與歐洲委員會(huì)2018年12月18日發(fā)布的《關(guān)于可信賴人工智能的倫理準(zhǔn)則》具有一致之處。《原則》崇尚人人平等、不唯效率至上的人本發(fā)展觀,符合對(duì)“Society 5.0”的概念界定和打造超級(jí)智能社會(huì)的發(fā)展目標(biāo)。
中國(guó)作為2016年二十國(guó)集團(tuán)(G20)主席國(guó),首次將“數(shù)字經(jīng)濟(jì)”列為G20創(chuàng)新增長(zhǎng)藍(lán)圖中的一項(xiàng)重要議題。2018年G20峰會(huì),我國(guó)建議二十國(guó)集團(tuán)將“新技術(shù)應(yīng)用及其影響”作為一項(xiàng)重點(diǎn)工作深入研究。我國(guó)作為人工智能發(fā)展大國(guó),向全球展現(xiàn)了人工智能時(shí)代的中國(guó)智慧。我們不僅要抓住人工智能發(fā)展機(jī)遇,還要積極應(yīng)對(duì)人口老齡化、勞動(dòng)力人口下降、技能型人才短缺等挑戰(zhàn),多維度對(duì)人工智能的開發(fā)應(yīng)用及影響進(jìn)行系統(tǒng)深入、客觀冷靜的專業(yè)研討,在基礎(chǔ)研究、技術(shù)開發(fā)應(yīng)用、資源開放共享、人才教育及法律政策上進(jìn)行有序引導(dǎo),為人工智能持續(xù)健康發(fā)展保駕護(hù)航。