當(dāng)人工智能應(yīng)用于黑色產(chǎn)業(yè)

責(zé)任編輯:editor005

作者:Alpha_h4ck

2016-11-13 20:32:30

摘自:黑客與極客

請各位同學(xué)想象一下這個場景:你老媽打電話跟你說她把銀行密碼忘記了,讓你告訴她銀行卡密碼。人工智能領(lǐng)域的研究人員目前正在研究如何提升機器學(xué)習(xí)的能力,因為他們希望改善計算機視覺、語音理解、語音合成和自然語言理解的處理質(zhì)量。

請各位同學(xué)想象一下這個場景:你老媽打電話跟你說她把銀行密碼忘記了,讓你告訴她銀行卡密碼。想必你也知道了,跟你通話的其實不是她本人,而是電腦合成的聲音,只是聽起來很像而已,這就是人工智能技術(shù)的杰作。

人工智能技術(shù)正在不斷發(fā)展

雖然利用人工智能在電話中偽裝某人的這種技術(shù)仍然只會出現(xiàn)在科幻電影中,但這種高科技犯罪手法在未來很可能會成為現(xiàn)實。目前,這種偽裝技術(shù)所需要的軟件組件正在飛速發(fā)展之中。例如,最近Alphabet公司旗下的子公司DeepMind(該公司開發(fā)了一款能打敗頂尖棋手的人工智能圍棋程序AlphaGo)宣布,他們已經(jīng)設(shè)計出了一款能夠模仿人類聲音的新程序,而且聲音聽起來比目前最好的文本語音轉(zhuǎn)換系統(tǒng)更自然,并且成功將機器語音與人類聲音的差異縮小了50%以上。

需要注意的是,年收入高達750億美元的計算機安全行業(yè)已開始討論機器學(xué)習(xí)這個話題了。因為信息安全研究人員打算通過機器學(xué)習(xí)和模式識別技術(shù)來改善目前計算機安全方面的糟糕狀況。

人工智能的阿喀琉斯之踵

雖然一切聽起來十分美好,但人工智能技術(shù)也有其自身的缺陷。

Marc Goodman是某執(zhí)法機構(gòu)的一名顧問,同時他也是《FutureCrimes》的作者,他表示:“可能很多人現(xiàn)在還沒有意識到,網(wǎng)絡(luò)犯罪正趨向于自動化,而且擴張速度驚人?,F(xiàn)在已經(jīng)不是Matthew Broderick躲在地下室去攻擊別人計算機的年代了(電影《戰(zhàn)爭游戲》(1983年)中的情節(jié))。”

今年年初,美國國家情報局的負責(zé)人JamesR. Clapper發(fā)出了關(guān)于惡意使用人工智能技術(shù)的警告。Clapper在他的年度安全報告中強調(diào),雖然人工智能系統(tǒng)可以讓我們的生活變得更加簡單,但與此同時網(wǎng)絡(luò)世界中的“薄弱之處”也會因為人工智能的出現(xiàn)而不斷被放大。

如今計算機犯罪活動日益復(fù)雜化,從不斷升級更新的攻擊工具身上就可以看出了。比如目前得到了廣泛使用的惡意軟件Blackshades,這款惡意軟件的開發(fā)者叫Goodman,他是個瑞典人。不過悲劇的是,他已于去年在美國被定罪了。

這款惡意軟件在地下黑市的銷量非常高,據(jù)Goodman所說,由于Blackshades可以為犯罪分子提供很多強大的功能,因此這款惡意軟件也被大家稱為“網(wǎng)絡(luò)犯罪分子的潘多拉魔盒”。在Blackshades的幫助下,使用者壓根不需要懂得任何的黑客技術(shù),用戶只需要點擊幾下鼠標(biāo)便可以實現(xiàn)攻擊。這款惡意軟件不僅可以輕易地讓目標(biāo)計算機感染勒索軟件,而且還能對目標(biāo)進行視頻和音頻監(jiān)控。

人工智能領(lǐng)域的研究人員目前正在研究如何提升機器學(xué)習(xí)的能力,因為他們希望改善計算機視覺、語音理解、語音合成和自然語言理解的處理質(zhì)量。但這也會帶來一些不好的影響,因為犯罪分子也可以在下一代惡意軟件中增加這種機器學(xué)習(xí)的能力。有一些安全研究專家則認為,其實早在五年前就已經(jīng)有犯罪分子在利用人工智能技術(shù)進行網(wǎng)絡(luò)犯罪活動了。

安全保護技術(shù)與人工智能的博弈

現(xiàn)在,幾乎所有的互聯(lián)網(wǎng)服務(wù)都會要求用戶在使用前輸入驗證碼,而犯罪分子們一直都在試圖破解驗證碼技術(shù)。驗證碼(Captcha)的全稱是“全自動區(qū)分計算機和人類的圖靈測試”,這項技術(shù)是美國卡內(nèi)基梅隆大學(xué)的研究員于2003年發(fā)明的,網(wǎng)站運營者可以利用這項技術(shù)來防止自動化程序盜取用戶的網(wǎng)絡(luò)賬戶數(shù)據(jù)。

  來自加利福尼亞大學(xué)的計算機安全研究專家StefanSavage表示:

“近五年來,人工智能專家和網(wǎng)絡(luò)犯罪分子都在嘗試使用計算機視覺軟件來破解驗證碼技術(shù)。如果你兩年來都沒有更改過你的驗證碼,那么你的驗證碼肯定會被計算機視覺算法搞定。”

社會工程學(xué)

毫無疑問,隨著科技的不斷發(fā)展,網(wǎng)絡(luò)犯罪分子肯定會嘗試?yán)眯屡d的技術(shù)來進行犯罪活動。像蘋果的Siri和微軟的Cortana這樣的語音識別技術(shù)目前已經(jīng)得到了廣泛使用。亞馬遜的聲控智能音箱Echo和Facebook的人工智能聊天機器人也成為了電商與顧客之間的溝通工具。與以前一樣,每當(dāng)類似語音識別技術(shù)這樣的新型技術(shù)成為了市場上的主流之后,犯罪分子一定會利用這項技術(shù)去大做文章。

  調(diào)查記者Brian Krebs在krebsonsecurity.com上發(fā)表文章稱:

“在我看來,那些為客戶提供了智能聊天服務(wù)的公司絕對忽略了一個問題:在信息安全領(lǐng)域中,想要獲得便捷性,往往就會以犧牲安全性作為代價。通過聊天機器人來服務(wù)客戶,這一切看似非常方便,但這也使得攻擊者有可能通過社會工程學(xué)技術(shù)來攻擊這些網(wǎng)絡(luò)服務(wù)。”

社會工程學(xué)技術(shù)針對的是人性的弱點,而這也是計算機安全鏈中最薄弱的一個環(huán)節(jié),網(wǎng)絡(luò)犯罪分子通常會把那些容易輕信別人或樂于助人的人們作為攻擊目標(biāo)。假如犯罪分子有能力去研發(fā)人工智能惡意軟件,并利用這種惡意軟件在網(wǎng)上進行犯罪活動的話,那么計算機安全形勢將會變得更加嚴(yán)峻。

話雖如此,但是智能聊天機器人目前仍然得到了廣泛的應(yīng)用。例如政府在進行某些宣傳時,或者在政治選舉之類的活動中,我們都可以看到智能聊天機器人的身影。值得一提的是,政治聊天機器人在英國脫歐公投中可是扮演了一個非常重要的角色?。?/p>

總結(jié)

總之,網(wǎng)絡(luò)犯罪分子遲早會利用人工智能技術(shù)來進行攻擊,一切只是時間問題。但值得慶幸的是,目前還沒有人利用機器學(xué)習(xí)技術(shù)來進行網(wǎng)絡(luò)犯罪活動。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號