AI并不像其他技術(shù)，如果說(shuō)其他技術(shù)像潮水，那么AI就像海嘯。

人工智能的“矛”和“盾”

AI成為人類未來(lái)一項(xiàng)高賦能的技術(shù)，已經(jīng)成為趨勢(shì)。但是，AI自身足夠安全嗎?

近日，在2018中國(guó)互聯(lián)網(wǎng)大會(huì)一場(chǎng)高峰論壇上，來(lái)自人工智能領(lǐng)域的業(yè)界專家齊聚北京國(guó)家會(huì)議中心，共論“AI時(shí)代智能終端的攻與防”。

在被北京大學(xué)教授郭耀問(wèn)到，如何應(yīng)對(duì)人工智能的“矛”和“盾”時(shí)，與會(huì)嘉賓紛紛亮出各自觀點(diǎn)。

AI“還是個(gè)孩子”

阿里巴巴集團(tuán)安全部總監(jiān)陸全，提出 “要像呵護(hù)自己的孩子一樣去呵護(hù)新的智能硬件”。對(duì)此他拆解為三層意思：第一，智能硬件現(xiàn)在只是一種數(shù)據(jù)驅(qū)動(dòng)，你給它什么數(shù)據(jù)它就學(xué)什么，就像一個(gè)小孩一樣。第二，孩子是未來(lái)的希望。人工智能代表的是未來(lái)生產(chǎn)力，中國(guó)有句話叫“因噎廢食”，不能倒洗澡水的時(shí)候把孩子也倒掉，不能因?yàn)閼峙露蝗パ芯咳斯ぶ悄堋５谌?，孩子是?huì)長(zhǎng)大的，即使AI現(xiàn)在可能易于被攻擊，但他相信隨著技術(shù)的發(fā)展，等孩子長(zhǎng)大之后就不會(huì)再像現(xiàn)在這樣。“我對(duì)未來(lái)是充滿信心的。”他說(shuō)。

“非常強(qiáng)的緊迫感”

百度首席安全科學(xué)家韋韜，感受到的則是“非常強(qiáng)的緊迫感”。他認(rèn)為，AI在各個(gè)領(lǐng)域的推進(jìn)速度超乎大家想象，在這種情況下，很多典型的應(yīng)用場(chǎng)景之下，潛藏著極其嚴(yán)峻的安全和隱私威脅。比如像智能音箱和智能家居設(shè)備，當(dāng)它的安全出現(xiàn)問(wèn)題時(shí)，人們的隱私直接面臨嚴(yán)重破壞，它的破壞能力甚至超出了前兩年手機(jī)的破壞能力，“完全埋伏在你的周圍，你想逃都調(diào)不掉”。針對(duì)陸全的“孩子說(shuō)”，他表示即使AI是個(gè)孩子，但是大家已經(jīng)給了這個(gè)孩子非常大的期望，也在讓這個(gè)孩子做很多成人都做不好的事情。人工智能有太多的安全挑戰(zhàn)，面臨巨大的突破。他以無(wú)人駕駛為例，指出傳統(tǒng)的安全防護(hù)體系，沒(méi)有哪個(gè)是絕對(duì)萬(wàn)無(wú)一失的，某一條防線攻破以后，后面還有補(bǔ)救機(jī)會(huì)，但是在無(wú)人駕駛上是幾乎沒(méi)有補(bǔ)救機(jī)會(huì)的。“對(duì)我們來(lái)說(shuō)壓力非常大，我們要做很多工作，把以前沙灘上建立的城堡地基重新夯實(shí)，才能夠在安全上有新的突破。”

一個(gè)永恒的主題

360智能安全研究院院長(zhǎng)李康教授認(rèn)為，只要出現(xiàn)新的領(lǐng)域、新的應(yīng)用，就會(huì)有新的安全關(guān)注，這是一貫的安全場(chǎng)景。安全問(wèn)題是一個(gè)持久的問(wèn)題，會(huì)逐漸體現(xiàn)在不同的新領(lǐng)域，安全對(duì)抗應(yīng)該是安全領(lǐng)域一個(gè)永恒的主題。

在此前的演講中，他詳細(xì)介紹了人工智能系統(tǒng)出現(xiàn)的安全問(wèn)題，可以分為“騙人”和“偷人”攻擊兩類。“騙人”如自動(dòng)駕駛中需要視覺(jué)人工智能來(lái)識(shí)別交通標(biāo)志，但如果在交通標(biāo)志上做一些干擾、貼一些標(biāo)簽，就有可能改變識(shí)別的結(jié)果。在數(shù)據(jù)處理時(shí)也可能遭遇這種攻擊。他舉例說(shuō)，自己的團(tuán)隊(duì)曾用李冰冰的照片放到人臉識(shí)別系統(tǒng)中，結(jié)果竟被識(shí)別成趙本山!原因就是在做維度處理時(shí)，沒(méi)有做足安全防護(hù)。“偷人”則是偷取人工智能技術(shù)的模型或者參數(shù)，包括數(shù)據(jù)重構(gòu)攻擊、模型推斷攻擊、數(shù)據(jù)推測(cè)攻擊、軟件漏洞攻擊等。

其他技術(shù)像潮水，AI像海嘯

小米科技首席安全官陳洋、長(zhǎng)虹信息安全燈塔實(shí)驗(yàn)室首席科學(xué)家唐博也認(rèn)同，安全永遠(yuǎn)是一個(gè)不斷攻防的過(guò)程，AI既可以用于產(chǎn)品，也可以用于對(duì)產(chǎn)品的安全進(jìn)行提升，AI在安全和效率方面，是一個(gè)相輔相成的過(guò)程。

泰爾終端實(shí)驗(yàn)室副主任馬鑫最后提出，這是一個(gè)雙刃劍的問(wèn)題，任何技術(shù)本沒(méi)有對(duì)錯(cuò)，只有先進(jìn)落后之分。AI并不像其他技術(shù)，如果說(shuō)其他技術(shù)像潮水，那么AI就像海嘯。它是一個(gè)大系統(tǒng)，在整個(gè)技術(shù)研究過(guò)程中，安全是一個(gè)平衡的問(wèn)題。但是有一個(gè)底線，大家應(yīng)該有共識(shí)——當(dāng)某項(xiàng)技術(shù)涉及到或者威脅到人類生命財(cái)產(chǎn)安全的時(shí)候，這項(xiàng)技術(shù)就應(yīng)該放到安全之后再去考慮。

解放日?qǐng)?bào)·上觀新聞?dòng)浾吡私獾剑?018中國(guó)互聯(lián)網(wǎng)大會(huì)由中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)主辦，今年已是第十七屆。大會(huì)以“融合發(fā)展 協(xié)同共治——新時(shí)代 新征程 新動(dòng)能”為主題。中國(guó)科協(xié)黨組書記、常務(wù)副主席、書記處第一書記、中科院院士懷進(jìn)鵬，工業(yè)和信息化部副部長(zhǎng)陳肇雄，北京市委常委、副市長(zhǎng)陰和俊等出席了7月10日的開幕式。來(lái)自國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展和改革委員會(huì)、國(guó)家廣播電視總局、中國(guó)工程院等政府部門和中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)、國(guó)家互聯(lián)網(wǎng)應(yīng)急中心、中國(guó)信息通信研究院等有關(guān)單位的領(lǐng)導(dǎo)參加了開幕式，會(huì)期為三天。