人工智能來到你身邊!安全和隱私如何保護?

責(zé)任編輯:editor006

2017-04-05 17:01:19

摘自:AI研究院

【編者按】在國外,當(dāng)Facebook開始將手伸向旗下WhatsApp的用戶數(shù)據(jù)時,當(dāng)Google推出了智能聊天應(yīng)用Allo時,都受到了侵犯用戶隱私的譴責(zé)。相反,當(dāng)人工智能在國內(nèi)被捧上風(fēng)口時,卻沒多少人預(yù)先關(guān)心類似技術(shù)和產(chǎn)品對個人隱私的侵害。

【編者按】在國外,當(dāng)Facebook開始將手伸向旗下WhatsApp的用戶數(shù)據(jù)時,當(dāng)Google推出了智能聊天應(yīng)用Allo時,都受到了侵犯用戶隱私的譴責(zé)。相反,當(dāng)人工智能在國內(nèi)被捧上風(fēng)口時,卻沒多少人預(yù)先關(guān)心類似技術(shù)和產(chǎn)品對個人隱私的侵害。

世界上一些最知名的企業(yè)已經(jīng)在信息安全方面投入了數(shù)百萬美元。當(dāng)然,他們的對手也是如此。但一些有惡意的人卻希望你的防御系統(tǒng)主要是由人類操控的,而且所有的防御系統(tǒng)的操控方式都是一樣的。

當(dāng)你搬家時,你會換鎖還是和你所有的鄰居使用共享鎖?試想一下,如果小偷僅僅知道了一個共享鎖的密碼,將會發(fā)生什么呢?出于某種原因,信息安全的世界有一種相同的鎖定心態(tài)。一些“顧客”是有惡意的人,他們費盡力氣想去侵犯他人的財產(chǎn)安全??紤]到這種情況,即便各個企業(yè)投入了大量資金,安全防護仍會失敗,對于這樣的結(jié)果我們也就不應(yīng)感到驚訝。

要想網(wǎng)絡(luò)防御者有機會贏得勝利,我們就必須開始公平競爭。供應(yīng)商將他們的安全產(chǎn)品的相關(guān)副本分發(fā)給客戶,只是因為這個方式對他們來說很容易,而不是因為這個行為對他們的客戶更好。

一個反病毒公司應(yīng)該為每個惡意軟件樣本生成多少個變種?所有基于主機的人工智能(AI)防御都能在病毒環(huán)境中學(xué)習(xí)嗎?在過去,為每個企業(yè)定制這些方案是不可行的。幸運的是,網(wǎng)絡(luò)安全研究逐漸出現(xiàn)了一些新的技術(shù),它們可以為每一個客戶提供獨特的病毒檢測軟件,這些技術(shù)可以幫助維護公平競爭環(huán)境,甚至有助于企業(yè)在商業(yè)競爭中取勝。

這些新興技術(shù)廣泛地出現(xiàn)在人工智能和機器學(xué)習(xí)領(lǐng)域。任何人工智能系統(tǒng)的核心都是學(xué)習(xí)能力。一些人工智能解決方案從本地環(huán)境中學(xué)習(xí),而另一些則從全局環(huán)境中學(xué)習(xí)。那些能夠勝出的是那些利用只存在于客戶的網(wǎng)絡(luò)環(huán)境中的數(shù)據(jù),并產(chǎn)生一種針對該環(huán)境的移動防御類型的數(shù)據(jù),根據(jù)這些數(shù)據(jù)建立起某種或全部的威脅探測能力的企業(yè)。其中包括:

一種是實質(zhì)上不同于當(dāng)前企業(yè)之間的防御方式;

一種是隨著時間的推移,它會隨著環(huán)境的變化而不斷演變的防御方式;

最重要的一種是,防御系統(tǒng)不會讓攻擊者事先知道,并且他們斷定攻擊者一定會失敗。

類似于在密碼中再次套入密碼有助于保護信息不受損害,部署網(wǎng)絡(luò)安全解決方案,利用網(wǎng)絡(luò)環(huán)境將其與其他所有副本區(qū)別開來,有助于保護企業(yè)。

使用人工智能系統(tǒng)建立一個移動防御系統(tǒng)

人工智能可以使用數(shù)千個特征來判斷網(wǎng)絡(luò)中的內(nèi)容是否有惡意,或者用戶或系統(tǒng)行為是否異常。每一個特征都只提供了一個小的證據(jù)來判斷是否有病毒。

但是這只有在復(fù)雜的組合中才有用。機器學(xué)習(xí)算法通過專門一段時間的訓(xùn)練,試圖找出如何結(jié)合特征來產(chǎn)生準(zhǔn)確的洞察和預(yù)測。

根據(jù)每個人工智能系統(tǒng)的方法,培訓(xùn)數(shù)據(jù)可以來自當(dāng)?shù)丨h(huán)境、全球環(huán)境或兩者的混合。然而,與傳統(tǒng)方法不同的是,所得到的模型從來都不是基于簡單的規(guī)則或易于理解的模式。這些模型的自然不透明以及它們的動態(tài)構(gòu)造為有效的移動防御提供了基礎(chǔ)。

你可以通過調(diào)整訓(xùn)練集或時間來改變?nèi)斯ぶ悄苣P?。額外的培訓(xùn)數(shù)據(jù)是否只是簡單地添加或用來替換老的培訓(xùn)數(shù)據(jù)并不重要,因為結(jié)果是一樣的。

新的模型使用現(xiàn)有的功能或使用全新的功能被創(chuàng)造出來。在人工智能和機器學(xué)習(xí)方面,量身定制的檢測解決方案的成本是可以忽略不計的。然而,必須有一個解決方案提供者來啟用這種方法。一些使用機器學(xué)習(xí)和人工智能的網(wǎng)絡(luò)安全供應(yīng)商仍然在以傳統(tǒng)方式部署他們的模型,而不會利用本地數(shù)據(jù)來調(diào)整他們的解決方案。當(dāng)然,移動防御也面臨挑戰(zhàn),不僅僅是那些會繼續(xù)試圖打敗它們的惡意行為者所帶來的挑戰(zhàn)。最重大的挑戰(zhàn)是如何確保定制解決方案的平價問題。沒有人想要“第二好的”檢測模型。必須注意的是,任何技術(shù)在實際應(yīng)用過程中都會產(chǎn)生一種具有統(tǒng)計意義的模型,在所有定制的變量中,檢測精度和誤差幾乎是一致的。

很難找到比移動防御更好的安全概念。“改變你的鎖”是最完美的安全建議之一。然而,在網(wǎng)絡(luò)安全領(lǐng)域,有些鎖比其他鎖更容易改變。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號