圍繞這兩大要素,草案給出了“可信賴人工智能”的框架。草案強(qiáng)調(diào),其目的不是給出另一套人工智能的價(jià)值和原則列表,而在于為人工智能系統(tǒng)提供具體實(shí)施和操作層面的指導(dǎo)。
草案共37頁,第一章通過闡述人工智能應(yīng)該遵守的基本權(quán)利、原則和價(jià)值觀,試圖確保人工智能的道德目的。根據(jù)第一章所闡述的原則,第二章給出了實(shí)現(xiàn)“可信賴人工智能”的準(zhǔn)則和詳細(xì)要求,既涉及道德目的,也涉及技術(shù)穩(wěn)健性,既有技術(shù)層面的要求,也有非技術(shù)層面的要求。第三章則為“可信賴人工智能”提供了一張具體但非窮盡的評(píng)估列表。
草案指出,其提出的準(zhǔn)則并非旨在取代任何形式的政策和規(guī)章,同時(shí),這些準(zhǔn)則應(yīng)該被視為活文件,需要定期更新以適應(yīng)技術(shù)發(fā)展的需求。
草案的一大亮點(diǎn)在于其特辟一個(gè)章節(jié)討論人工智能所引發(fā)的爭(zhēng)議性問題。這些問題引起了歐盟人工智能高級(jí)別專家組的激烈討論且尚未在組內(nèi)達(dá)成一致意見。
位于列表第一的爭(zhēng)議性問題是“未經(jīng)知情同意的識(shí)別”。有跡象表明利用人臉識(shí)別對(duì)公民進(jìn)行監(jiān)控的情況開始在歐洲出現(xiàn)。不久前,英國(guó)警方宣布,他們正在倫敦對(duì)圣誕節(jié)的購物者們進(jìn)行人臉識(shí)別的測(cè)試。人工智能中的人臉識(shí)別等技術(shù)使得公共或私人組織能夠有效的識(shí)別個(gè)人。草案認(rèn)為,“為了維護(hù)歐洲公民的自主權(quán),人工智能的這一使用需要得到適當(dāng)?shù)目刂?rdquo;。具體而言,區(qū)分個(gè)體識(shí)別與個(gè)體跟蹤、目標(biāo)監(jiān)視與大規(guī)模監(jiān)視對(duì)于實(shí)現(xiàn)“可信賴人工智能”至關(guān)重要。
另一個(gè)專家組熱議的話題是“隱蔽的人工智能系統(tǒng)”。發(fā)展人工智能的其中一種目標(biāo)是建立像人一樣的系統(tǒng),但越來越像人的人工智能系統(tǒng)卻會(huì)給人類帶來了困擾。草案認(rèn)為,一個(gè)人必須總是知道他是在與人類還是機(jī)器進(jìn)行交流,這一點(diǎn)也應(yīng)是AI開發(fā)和管理人員的職責(zé)。專家組提出,人們“應(yīng)當(dāng)牢記,人與機(jī)器之間的混淆會(huì)產(chǎn)生多種后果,比如依戀、影響或降低作為人的價(jià)值。因此,人形機(jī)器人和機(jī)器人的發(fā)展應(yīng)經(jīng)過仔細(xì)的道德評(píng)估。”
“致命自主武器系統(tǒng)”也是專家組重要關(guān)切之一。草案稱,目前有數(shù)量未知的國(guó)家正在研發(fā)自主武器系統(tǒng)。這些武器系統(tǒng)中有能夠選擇性瞄準(zhǔn)的導(dǎo)彈,還有具認(rèn)知能力、可在無人為干預(yù)的情況下決定作戰(zhàn)對(duì)象、時(shí)間和地點(diǎn)的學(xué)習(xí)機(jī)器等。專家組認(rèn)為這會(huì)引起不可控的軍備競(jìng)賽。
對(duì)于以上這些爭(zhēng)議話題,草案給出了一個(gè)關(guān)鍵性指導(dǎo)準(zhǔn)則。首先是AI的開發(fā)、部署和使用應(yīng)以人為中心,須反應(yīng)公民的福利、無害、人類自主、爭(zhēng)議和可解釋性等社會(huì)價(jià)值觀和道德原則。其次是評(píng)估AI對(duì)人類及其共同利益的可能影響,尤其需要注意兒童、殘障人士和少數(shù)群體等弱勢(shì)群體的情況。第三是人們需要承認(rèn)并意識(shí)到人工智能在為個(gè)人和社會(huì)帶來實(shí)質(zhì)性好處的同時(shí)也可能產(chǎn)生負(fù)面影響,人們需要“對(duì)嚴(yán)重關(guān)切的領(lǐng)域保持警惕”。
目前,草案處于征集意見階段,征集時(shí)間將于2019年1月18日截止。據(jù)悉,該草案將于2019年3月提交到歐盟委員會(huì)。
歐盟人工智能高級(jí)別專家組于2018年4月由歐盟委員會(huì)任命,組內(nèi)有52位代表學(xué)術(shù)界、工業(yè)界和民間社會(huì)的獨(dú)立專家。該專家組的主要職責(zé)是撰寫人工智能道德準(zhǔn)則并為歐盟提供政策和投資建議。