馬斯克等科技大佬聯(lián)名承諾不發(fā)展致命性人工智能武器系統(tǒng)

這是一個(gè)由研究人員和高管組成的非官方全球聯(lián)盟的最新舉措，該聯(lián)盟反對(duì)這種技術(shù)的不當(dāng)擴(kuò)張。

該協(xié)議于當(dāng)?shù)貢r(shí)間周三在瑞典斯德哥爾摩舉行的2018國(guó)際人工智能聯(lián)合會(huì)議上發(fā)布，由生命未來(lái)研究所(Future of Life Institute，簡(jiǎn)稱(chēng)FLI)起草。

生命未來(lái)研究所是一個(gè)研究機(jī)構(gòu)，旨在降低人類(lèi)面臨的風(fēng)險(xiǎn)。此前，該研究所已經(jīng)發(fā)布了一些文件，號(hào)召聯(lián)合國(guó)對(duì)致命自主武器(lethal autonomous weapons，簡(jiǎn)稱(chēng)LAWS)制定新規(guī)。此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會(huì)開(kāi)發(fā)此類(lèi)技術(shù)。

該研究所宣布，超過(guò)2400人、160家公司和組織簽署了一份協(xié)議，承諾他們將既不參與也不支持開(kāi)發(fā)、制造、交易或使用致命自主武器。簽署方還呼吁各國(guó)政府通過(guò)法律禁止此類(lèi)武器。

這一協(xié)議出臺(tái)之際，正值少數(shù)幾家公司因向政府機(jī)構(gòu)和執(zhí)法部門(mén)提供此類(lèi)技術(shù)而面臨強(qiáng)烈爭(zhēng)議。

谷歌因與美國(guó)軍方的Maven項(xiàng)目合同而受到抨擊，該項(xiàng)目將向美國(guó)軍方提供人工智能技術(shù)，以幫助他們?cè)跓o(wú)人機(jī)影像中標(biāo)記需要額外進(jìn)行人工檢查的內(nèi)容。

同樣的，亞馬遜也因與執(zhí)法機(jī)構(gòu)分享其面部識(shí)別技術(shù)而受到批評(píng)，而微軟則因向美國(guó)移民和海關(guān)執(zhí)法局(ICE)提供相關(guān)服務(wù)而受到指責(zé)。

該協(xié)議的簽署方包括SpaceX公司和特斯拉首席執(zhí)行官埃隆·馬斯克(Elon Musk)，DeepMind的三位聯(lián)合創(chuàng)始人肖恩·萊格(Shane Legg)、穆斯塔法·蘇萊曼(Mustafa Suleyman)和戴密斯·哈薩比斯(Demis Hassabis)，通訊軟件Skype創(chuàng)始人讓·塔林(Jaan Tallinn)，以及一些世界上最受尊敬和最著名的人工智能研究者，包括斯圖爾特·羅素(Stuart Russell)，Yoshua Bengio和Jurgen Schmidhuber。

該協(xié)議警告稱(chēng)，使用人工智能武器系統(tǒng)“無(wú)需人工干預(yù)就能選定目標(biāo)”，這造成了道德上和實(shí)操上的威脅。

簽署方認(rèn)為，從道德方面來(lái)看，不應(yīng)該把結(jié)束人類(lèi)生命的決定委托給機(jī)器。從實(shí)操方面來(lái)看，此類(lèi)武器的擴(kuò)散將危及每個(gè)國(guó)家和個(gè)體的穩(wěn)定。

麻省理工學(xué)院物理學(xué)教授馬克斯•泰格馬克(Max Tegmark)在一份聲明中表示，這一協(xié)議表明，人工智能領(lǐng)導(dǎo)人從對(duì)話(huà)轉(zhuǎn)向了行動(dòng)。