360智能安全研究院院長李康認(rèn)為,智能和安全已經(jīng)在安全這個領(lǐng)域?qū)购芏嗄炅耍ú《緳z測、垃圾郵件、釣魚軟件等問題一直都存在,各種機器學(xué)習(xí)算法的對抗,在過去也一直都在發(fā)生?,F(xiàn)在被各界廣泛關(guān)注的熱點問題,在安全領(lǐng)域中其實都是老問題,而且會一直存在。
與此同時,隨著很多新的人工智能應(yīng)用的出現(xiàn),還會出現(xiàn)新的安全問題。李康舉例說,例如一個水平不高的程序員,過去做數(shù)據(jù)庫傳輸曾出現(xiàn)了脫庫問題,現(xiàn)在去寫人工智能程序、寫區(qū)塊鏈程序依然會出現(xiàn)問題,“安全對抗應(yīng)該是安全領(lǐng)域永恒的一個主題。”
小米科技首席安全官陳洋認(rèn)為:“我們完全沒有必要恐懼AI帶來的安全問題。因為安全永遠(yuǎn)是一個不斷攻防的過程。問題暴露了,我們解決了問題,就安全了。”他舉例說,比如解鎖,最開始是輸入密碼,只要別人在旁邊瞄一眼就可以看到,只是大家“視而不見”而已。通過AI技術(shù)賦能,手機通過攝像頭能識別“你是你”后解鎖,帶來了很多方便。隨之而來安全問題出現(xiàn)了,用一個照片、一個視頻就能去解鎖。“我們用AI去實現(xiàn)人臉解鎖的同時,我們也用AI進行攻防。怎么樣去做人臉解鎖呢?最開始我們要訓(xùn)練AI怎么樣能夠認(rèn)出‘他是他’,先把人區(qū)分出來。第二步,對AI進行識別黑樣本的訓(xùn)練,讓AI通過大量的黑樣本學(xué)習(xí)到非活體的破解手段。”陳洋解釋說,“AI既可以用于產(chǎn)品,也可以用于對產(chǎn)品的安全性進行提升,還有很多時候可以用于檢測非法的攻擊等等。因此,AI在安全領(lǐng)域也是有非常多的應(yīng)用場景的。”
“我們要像呵護自己的孩子一樣去呵護智能硬件。”阿里巴巴安全部資深總監(jiān)陸全如是說,并解釋說,第一,現(xiàn)在所謂智能就是數(shù)據(jù)驅(qū)動,人們給它什么數(shù)據(jù)它就學(xué)什么。第二,人工智能代表未來的生產(chǎn)力,不能因噎廢食,因為懼怕這個人工智能而不去做研究。第三,隨著智能的發(fā)展,以后它就不會再像現(xiàn)在那樣易于被人攻擊了。
在百度首席安全科學(xué)家韋韜看來,AI的應(yīng)用不可能因為存在安全隱患就推遲到來,因為“AI的應(yīng)用如洪水般涌來。”他進一步解釋說,大部分產(chǎn)業(yè)里都是這種情況,在技術(shù)突飛猛進的時候,很少有人會考慮安全問題。“我們現(xiàn)在感覺到的是非常強的緊迫感?,F(xiàn)在AI在各個領(lǐng)域推進的速度之快是超乎大家想象的,前兩年IT業(yè)界的人還不知道深度學(xué)習(xí)是什么,今年都在談深度學(xué)習(xí)能做什么。” 韋韜說,“我們看到在一些典型應(yīng)用場景之下,存在極其嚴(yán)峻地對安全和隱私的威脅。而且這個威脅已經(jīng)不再是一個可能的風(fēng)險,而是一個現(xiàn)實的威脅。比如像智能音箱和智能家居的設(shè)備,當(dāng)它的安全出現(xiàn)問題的時候,用戶的隱私直接面臨非常嚴(yán)重的威脅。這個破壞能力超出了前兩年手機安全問題的破壞能力,完全埋伏在用戶的周圍,用戶想逃都逃不掉。”
對于“還是孩子的AI”,韋韜認(rèn)為,既然大家已經(jīng)對“這個孩子”寄予了非常大的期望,那么就要讓“這個孩子”做很多“成人”都做不好的事情。“大家都知道沒有哪個安全產(chǎn)品是絕對萬無一失的,都要做防御體系。過去某一條防線被攻破以后,后面還有補救機會的。但是在無人車上是幾乎沒有補救機會的。”韋韜說,“我們要做很多工作,以能夠在安全上有新的突破,把以前在‘沙灘’上建立的‘城堡’的地基重新夯實。”
長虹信息安全燈塔實驗室首席科學(xué)家唐博說,對于智能設(shè)備廠商來說,AI促進了產(chǎn)品效能的提高,促進了用戶使用體驗的提升。同時會帶來一些安全問題,也是預(yù)料之中的。唐博認(rèn)為:“就AI和安全之間的關(guān)系來講,我們可以把它看作三個發(fā)展階段。第一個階段,用AI的方法可以解決一些安全的問題,可以用AI的方法來識別攻擊,可以通過大數(shù)據(jù)分析,分析流量和終端的一些情況,來識別一些異常流量或者一些攻擊的行為。第二個階段,是用安全來保護人工智能,同時保護隱私。 第三個階段,在智能設(shè)備的安全性達到一定程度的時候,AI會有更大的發(fā)展,到時候可能會出現(xiàn)跨界甚至跨平臺的AI應(yīng)用,效率會得到更大的提升。AI、安全和效率三者之間是一個相輔相成的發(fā)展過程。”
泰爾終端實驗室副主任馬鑫認(rèn)為,任何技術(shù)本沒有對錯之分,只有先進落后之分。AI不像其他技術(shù),其他技術(shù)像潮水,AI像海嘯。今年上半年AI撲面而來,所有的領(lǐng)域、所有的行業(yè)都在說AI。AI是一個大系統(tǒng),是一個有很大賦能作用的技術(shù),軟件越復(fù)雜,它的安全點越需要被關(guān)注。在整個技術(shù)研究過程中,發(fā)展和安全之間的問題是需要平衡的。要考慮AI應(yīng)用的場景,有些產(chǎn)品應(yīng)用場景比較簡單,它的安全性比較容易能夠得到滿足或者得到保障。在AI應(yīng)用比較復(fù)雜的情況下,更需要安全性的保障和研究。“有一個底線應(yīng)該成為共識,當(dāng)某項技術(shù)涉及或者威脅到人身生命財產(chǎn)安全的時候,這項技術(shù)的應(yīng)用就應(yīng)該放到安全之后去考慮。”