美國(guó)、歐盟、英國(guó)、德國(guó)自2016年開始就積極推動(dòng)人工智能責(zé)任立法、人工智能倫理準(zhǔn)則以及自動(dòng)駕駛、醫(yī)療機(jī)器人等領(lǐng)域的細(xì)分立法。從《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》到人工智能被寫入2017年政府工作報(bào)告，從《新一代人工智能發(fā)展規(guī)劃》到十九大報(bào)告的“推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合”，中國(guó)對(duì)人工智能的重視正在不斷提高。

當(dāng)下，人工智能作為解決金融、交通、城市建設(shè)、醫(yī)療等一系列迫切的社會(huì)問題的手段，也對(duì)立法和公共政策的制定提出了更高的要求。在人工智能興起的背景下，中國(guó)的司法改革也正在面臨更嚴(yán)峻的知識(shí)挑戰(zhàn)，這種挑戰(zhàn)短期內(nèi)來自現(xiàn)代化治理的方法論，而長(zhǎng)遠(yuǎn)來看關(guān)系到的是人類對(duì)自身的“認(rèn)識(shí)論”。

理財(cái)機(jī)器人出問題，損失算誰的?

吳穎打開手機(jī)，同時(shí)開啟了四五個(gè)銀行APP。她使用理財(cái)機(jī)器人才兩個(gè)月，很多概念并沒有搞清，但她唯一清楚的是，這些署名“AI”的人工智能投資顧問，會(huì)為她提供或穩(wěn)健、或均衡、或成長(zhǎng)、或積極的投資組合。她將手機(jī)推到《南風(fēng)窗》記者面前，“人工智能的好處我覺得就是直接，而且效率特別高。”她總覺得理財(cái)顧問都是“忽悠”居多，對(duì)“高科技”有一種下意識(shí)的信任。

理財(cái)機(jī)器人并不是一個(gè)“實(shí)體”機(jī)器人，面對(duì)面幫助客戶理財(cái)，而是透過線上調(diào)查問卷，或者是APP上客戶的資產(chǎn)和消費(fèi)數(shù)據(jù)，來了解投資者的背景資料、風(fēng)險(xiǎn)偏好和投資習(xí)慣，再經(jīng)由算法“量身打造”一套投資組合。

舉例來說，理財(cái)機(jī)器人在做完投資習(xí)慣和風(fēng)險(xiǎn)調(diào)查后，會(huì)為愿意承受高風(fēng)險(xiǎn)、進(jìn)而享受高回報(bào)的投資者推薦全球股市比重占70%、美債比重占30%的投資組合;而為正在準(zhǔn)備退休的保守型投資者，推薦股票型占40%、債券型占60%的投資組合。

理財(cái)?shù)恼嬲x，是資產(chǎn)配置。先決定好投資工具，比如股票、債券、現(xiàn)金等，再按照個(gè)人的風(fēng)險(xiǎn)和回報(bào)偏好來配置比例。不過，在市場(chǎng)波動(dòng)下，持有的投資組合會(huì)因?yàn)閮r(jià)格漲跌，凈值比例偏離原來的設(shè)定比例。而理財(cái)機(jī)器人的重要特點(diǎn)，就是自動(dòng)地進(jìn)行資產(chǎn)配置再平衡。它以月度、季度、年度的方式檢視資產(chǎn)績(jī)效，定期調(diào)整。像吳穎這種常年“996”的忙碌職場(chǎng)人士，再也不用茶飯不思地“盯盤”。

理財(cái)機(jī)器人也叫智能投資顧問(Robo-Advisor)，是近年風(fēng)靡華爾街的創(chuàng)新性金融科技產(chǎn)品。美國(guó)金融數(shù)據(jù)分析服務(wù)提供商Kensho，它的軟件可以在2分鐘內(nèi)做出反應(yīng)：當(dāng)三級(jí)颶風(fēng)襲擊佛羅里達(dá)時(shí)，哪只水泥股的漲幅最大?蘋果發(fā)布新款iPhone，哪家供應(yīng)商股價(jià)上漲更快?

2016年，以招商銀行、廣發(fā)證券為代表的中國(guó)銀行和券商等金融機(jī)構(gòu)，也開始入局。2017年，中國(guó)各大銀行、證券公司和保險(xiǎn)公司均推出了相關(guān)產(chǎn)品。吳穎去年就聽同事們談及，一貫“保守”的她今年也加入了進(jìn)來。

中國(guó)的理財(cái)機(jī)器人和國(guó)外的最大區(qū)別是，前者不能進(jìn)行“代客資金交易”，說白了，就是不能“自行付錢”。“我也挺猶豫的，”吳穎說，“雖然買不買單，決定權(quán)還是在我手上，但萬一這個(gè)機(jī)器人出問題了，或者被黑客攻擊了，我的損失算誰的責(zé)任?是那個(gè)寫代碼的，還是黑客，還是整個(gè)銀行?”

同樣的問題也發(fā)生在醫(yī)療機(jī)器人領(lǐng)域。目前中國(guó)的醫(yī)療機(jī)器人應(yīng)用尚未普及，但小范圍的應(yīng)用也是事關(guān)“生死”。據(jù)了解，中國(guó)有三十幾家醫(yī)療機(jī)器人企業(yè)。北京積水潭醫(yī)院、301 醫(yī)院、河北醫(yī)科大學(xué)第三醫(yī)院等幾家醫(yī)療機(jī)構(gòu)，已經(jīng)開始臨床應(yīng)用骨科機(jī)器人。深圳某企業(yè)的手術(shù)機(jī)器人，可以幫助醫(yī)生，通過使用電腦和軟件來控制和移動(dòng)手術(shù)儀器，進(jìn)入病人身體上的微小切口，來完成不同的手術(shù)步驟。

如果醫(yī)療機(jī)器人出現(xiàn)故障，發(fā)生醫(yī)療事故，權(quán)利和責(zé)任又該如何明確?會(huì)不會(huì)進(jìn)一步激化中國(guó)業(yè)已嚴(yán)峻的醫(yī)患關(guān)系?

賦予人工智能虛擬人格?

人工智能是一種為社會(huì)帶來全方位變革的通用技術(shù)，可以應(yīng)用到從農(nóng)業(yè)、制造業(yè)再到法律、醫(yī)療、金融服務(wù)業(yè)等各種各樣的生活場(chǎng)景之中。而且，機(jī)器學(xué)習(xí)(特別是無監(jiān)督學(xué)習(xí))技術(shù)，會(huì)帶來結(jié)果的不可控性。就像微軟的聊天機(jī)器人，上線沒幾天，跟網(wǎng)友學(xué)會(huì)了不少粗話，甚至還學(xué)會(huì)了種族歧視。

因此，法律如何規(guī)制人工智能，在鼓勵(lì)創(chuàng)新的同時(shí)，保護(hù)人類社會(huì)的基本價(jià)值，將風(fēng)險(xiǎn)控制在可控范圍內(nèi)，是一個(gè)急需討論和立法回應(yīng)的問題。

但中國(guó)社會(huì)科學(xué)院知識(shí)產(chǎn)權(quán)中心教授楊延超告訴《南風(fēng)窗》記者，鑒于目前人工智能的發(fā)展水平，制定一部總括性的“人工智能法”，時(shí)機(jī)還不成熟。

最接近一般性人工智能法的立法嘗試，是2016年歐洲議會(huì)向歐盟委員會(huì)提出的“機(jī)器人法”立法建議報(bào)告。這份報(bào)告的立法，只針對(duì)有形的“智能機(jī)器”，包括機(jī)器人、智能家電和自動(dòng)駕駛汽車等。但是，對(duì)于人工智能的核心—算法，并沒有相關(guān)的規(guī)制。也就是說，其思路和規(guī)制食品安全、產(chǎn)品責(zé)任的思路基本上一樣。

那么為什么還要緊鑼密鼓地討論人工智能的立法?楊延超認(rèn)為，雖然人工智能遠(yuǎn)遠(yuǎn)達(dá)不到人類的認(rèn)知水平，但是作為工具的使用，已經(jīng)出現(xiàn)了很多急需明確的權(quán)責(zé)問題。“這時(shí)候，我們就需要賦予人工智能一個(gè)虛擬人格，來解決利益的第一層分配問題。”

他舉了一個(gè)例子，“就像法人，法人也不是自然人，但是我們能夠賦予公司一個(gè)虛擬的人格來明確它的地位。”對(duì)于人工智能來說，“虛擬人格就是法律人格。從消極的方面說，就是判斷誰來承擔(dān)責(zé)任;從積極的方面說，就是行為的效力怎么認(rèn)定。”

自動(dòng)駕駛是理解人工智能立法難題的一個(gè)典型案例。目前，自動(dòng)駕駛車輛是在一個(gè)“無法可依”的情況下“高調(diào)”上路的。2017年12月2日，四輛裝備著華為開發(fā)的“阿爾法巴-智能駕駛公交系統(tǒng)”的自動(dòng)駕駛公交車在深圳福田保稅區(qū)上路，這是世界首例在開放道路上行駛的自動(dòng)駕駛公交車。

自動(dòng)駕駛首先面臨著“法律人格”地位下區(qū)分其民事行為能力和責(zé)任能力的問題。“過錯(cuò)”是現(xiàn)代交通法構(gòu)建的基石，酒駕、疏忽大意、無證駕駛都是“過錯(cuò)”。然而，在無人駕駛的時(shí)代，“過錯(cuò)”就要進(jìn)行重新劃分。根據(jù)2017年5月德國(guó)聯(lián)邦議會(huì)批準(zhǔn)的《德國(guó)道路交通法》修正案，如果自動(dòng)駕駛模式正在運(yùn)行過程中發(fā)生了事故，責(zé)任在汽車制造商;如果自動(dòng)駕駛系統(tǒng)發(fā)出了請(qǐng)求人工控制的信號(hào)，責(zé)任才會(huì)轉(zhuǎn)移到汽車的駕駛?cè)藛T身上。

楊延超說，這實(shí)際上是產(chǎn)品質(zhì)量責(zé)任，也就是嚴(yán)格責(zé)任，它不關(guān)心“過錯(cuò)”，而是關(guān)心汽車是誰生產(chǎn)的。在無人駕駛時(shí)代，交通事故的責(zé)任主體將由個(gè)人轉(zhuǎn)為汽車的生產(chǎn)企業(yè)。這對(duì)原有的交通法律，是顛覆性的。而且，人工智能技術(shù)的應(yīng)用可謂“牽一發(fā)而動(dòng)全身”，交通事故責(zé)任分配中的保險(xiǎn)制度，也將出現(xiàn)徹底的轉(zhuǎn)變。

一直以來，保險(xiǎn)制度在交通事故責(zé)任有著兩方面的作用。一方面它讓受害者救濟(jì)變得更加及時(shí)—受害者可從保險(xiǎn)費(fèi)用中先行獲得救濟(jì);另一方面，它也分散了責(zé)任承擔(dān)，將一人責(zé)任分解成社會(huì)分擔(dān)。然而，隨著無人駕駛時(shí)代的到來，保險(xiǎn)費(fèi)用的交納或許將由車輛購買者變?yōu)槠噺S商。

“霍布斯時(shí)刻”的到來?

中國(guó)的司法改革，很大程度上是一種知識(shí)的改革。這絕不是說，法律人只要死讀書本就能解決法律問題，而是說，從司法決策的角度去看，它首先就是知識(shí)運(yùn)用的過程;從程序立法的方面去看，它同樣需要知識(shí)立場(chǎng)和知識(shí)內(nèi)涵。人工智能的出現(xiàn)，以及其可預(yù)期的發(fā)展前景，為司法改革提出了更新的情況、更新的知識(shí)，如果不能理解這種知識(shí)，司法改革也將更加難以推進(jìn)。

在當(dāng)下“弱人工智能”的狀態(tài)下，人們需要解決的往往是“知識(shí)產(chǎn)權(quán)”問題。這個(gè)問題的表層是，立法者需要給予人工智能更多的權(quán)利。像撰稿機(jī)器人、作曲機(jī)器人、法律咨詢機(jī)器人，應(yīng)該享有相應(yīng)的創(chuàng)作者權(quán)利。更深一步去看，這些機(jī)器人背后創(chuàng)造其算法的人，也相應(yīng)享有創(chuàng)作者的權(quán)利，包括著作權(quán)、專利權(quán)等。

在中美貿(mào)易摩擦中，知識(shí)產(chǎn)權(quán)也成為爭(zhēng)端的關(guān)鍵。據(jù)悉，中國(guó)最高人民法院也將賦予知識(shí)產(chǎn)權(quán)庭更大的權(quán)力，來強(qiáng)化知識(shí)產(chǎn)權(quán)的重要性，統(tǒng)一知識(shí)產(chǎn)權(quán)案件的審判標(biāo)準(zhǔn)。

知識(shí)產(chǎn)權(quán)的應(yīng)用范圍，需要不斷地“擴(kuò)大”。但是，諸如“密碼朋克”“自由軟件運(yùn)動(dòng)”等群體的崛起或運(yùn)動(dòng)的爆發(fā)，也提供了另外一種可能。越來越嚴(yán)格的知識(shí)產(chǎn)權(quán)保護(hù)，也許極大地阻礙了知識(shí)、技術(shù)、想法的快速高效流通，從而極大地阻礙了人類的創(chuàng)新活動(dòng)和發(fā)明活動(dòng)。

這就意味著，“弱人工智能”時(shí)代的立法或規(guī)制，特別需要注意自身的尺度和邊界。它既要給文化傳播、發(fā)明創(chuàng)造留下足夠的空間，也要保護(hù)創(chuàng)作者的“私人財(cái)產(chǎn)”—以利于長(zhǎng)期的、持續(xù)的、有回報(bào)的知識(shí)生產(chǎn)。它不僅要鼓勵(lì)和保護(hù)人工智能的獨(dú)立“發(fā)揮”，也要前瞻性地避免人工智能帶來的破壞和損害。

然而，等人們跨越“奇點(diǎn)”，或者進(jìn)入“強(qiáng)人工智能”時(shí)代，立法者面臨的就不僅僅是知識(shí)產(chǎn)權(quán)的問題，或者說羅馬法里的“繳出賠償”原則—機(jī)器人的“主人”最終承擔(dān)責(zé)任;而是電子人格是否與人類人格真正等同的問題，換句話說，就是強(qiáng)人工智能算不算一個(gè)“人”。

雖然沙特阿拉伯在2017年授予機(jī)器人索菲亞以公民身份，還向她發(fā)放了護(hù)照，但炒作的色彩大于實(shí)際意義，索菲亞遠(yuǎn)沒有具備“思考”的能力。楊延超提到了科幻作家阿西莫夫的“機(jī)器人三定律”，他認(rèn)為這一文學(xué)設(shè)定的意義是重大的，強(qiáng)人工智能具備人類的諸多能力之后，人類的安全問題應(yīng)該被首先納入考量。

對(duì)于法律人而言，技術(shù)的更迭，時(shí)代的更替，都是一種大的背景，而司法改革并不以變化為目的，歸根結(jié)底，它以公平和正義為目的。

如今的人工智能在司法領(lǐng)域的應(yīng)用，特別是在取證方面，極大地提高了效率。對(duì)人工智能知識(shí)的掌握和理解，也意味著對(duì)正義的理解的進(jìn)一步加深。遲來的正義雖然好過沒有來的正義，但依然比不上“及時(shí)”的正義。

而面對(duì)未來將與人類平等的強(qiáng)人工智能，人們對(duì)“主奴關(guān)系”“公平”“正義”的看法，又將與今日截然不同。人類從來沒有賦予過任何一個(gè)物種與人類相等的權(quán)利，正是因?yàn)槠渌锓N無法與人類抗衡。當(dāng)人工智能遠(yuǎn)遠(yuǎn)超出人類的想象之后，法律又該如何規(guī)范兩個(gè)物種的生活?如何創(chuàng)造一個(gè)穩(wěn)定的預(yù)期?還是說，人類將再次面對(duì)那個(gè)“一切人對(duì)一切人”的“霍布斯時(shí)刻”?