裁掉杰森伯恩,招攬人工智能,AI間諜厲害在哪?

責任編輯:zsheng

2018-11-19 17:09:35

摘自:智能相對論

間諜,是那些從事以竊密為主的各種非法諜報活動的特工人員。在《諜影重重》系列中,杰森伯恩(《諜影重重》主角)滿足了人們對于間諜的一切幻想:身手了得,頭腦敏捷,堅毅不屈,以一己之力單挑CIA(美國中情局),可以說是“諜中諜”了。然而,優(yōu)秀如杰森伯恩,如今也面臨失業(yè)的困擾。

間諜,是那些從事以竊密為主的各種非法諜報活動的特工人員。在《諜影重重》系列中,杰森伯恩(《諜影重重》主角)滿足了人們對于間諜的一切幻想:身手了得,頭腦敏捷,堅毅不屈,以一己之力單挑CIA(美國中情局),可以說是“諜中諜”了。然而,優(yōu)秀如杰森伯恩,如今也面臨失業(yè)的困擾。

4月25日,CIA宣布,計劃用人工智能取代間諜。其技術開發(fā)副主任Dawn Meyerriecks表示,CIA正在適應新的情形,其主要對手是一臺機器,而不是一名外國間諜。硅基特工究竟比碳基特工強在哪?

神出鬼沒的間諜怎么也敵不過AI?

智能相對論(ID:aixdlun)分析師岳文綸認為,主要是以下幾個方面:

一、作為偽裝者,AI間諜讓人習以為常

影視劇里,間諜們在執(zhí)行任務之前總要通過假文件制造假身份,然而無論他們手法多么精妙,都難逃被人識破的命運。AI間諜相比于他們,是更加高明的偽裝者,因為AI間諜能以人們習以為常的樣子出現(xiàn)。

首先,AI間諜能偽裝成電器這樣的實體形式,被安排進每一個家庭、每一所辦公間。2017年10月,谷歌推出了一款叫做Clips的AI相機,這是一款完全由AI進行主動決策的產(chǎn)品,它能像我們的神經(jīng)網(wǎng)絡一樣,對場景進行自識別。

據(jù)介紹,通過人工智能判斷合適的拍攝時間,它能記錄下家庭的美妙一刻。試想,如果AI間諜偽裝成這樣的攝錄像設備被安放在我們身邊,它會拍下怎樣的特定場景呢?也許是商業(yè)機密,也許是生活隱私,而我們卻渾然不知。還有更多的智能產(chǎn)品能以這樣的形式偽裝,被投放到我們身邊。

其次,AI間諜能以聊天軟件這樣的虛擬形式,住進我們的智能設備里。2014年5月,微軟小冰誕生了,微軟將近7億中國網(wǎng)民多年的公開聊天記錄精煉為1500萬條容量的語料庫,再加上自身在大數(shù)據(jù)、自然語義分析、機器學習和深度神經(jīng)網(wǎng)絡方面的技術積累,使“小冰”具備了理解對話語境與語義的能力。

它能干啥?一般人看來,它不過是陪你聊天,不論你是政府官員、軍人還是科學界,你的話茬它都能接上,甚至還能主動引導你說話。與人聊天時,身心放松的人們無所不談,無意間給小冰透露了很多有價值的信息,也正是這些信息被小冰利用起來,才讓你覺得跟小冰聊天如此有趣。細思恐極的是,面對如此大規(guī)模搜集信息的工具,大部分人只是把它當作是一個朋友。那如果你的朋友是一個間諜呢?甚至不用嚴刑拷打,你就不知不覺地將機密出賣,之后再被這位“朋友”出賣。

二、作為潛伏著,AI間諜能滲透到每個領域

目前,互聯(lián)網(wǎng)技術已經(jīng)滲透到所有領域,而人工智能時代的來臨,則賦予了硅基大腦更多的權限:自動駕駛、智慧家庭、金融和醫(yī)療,AI逐漸成為我們的司機、管家、會計和醫(yī)生。這意味著AI間諜滲透到每個地方成為了可能,且擁有了更大的威脅。比起作為偽裝者進入我們生活、工作的個案,AI間諜這種無處不在地潛伏更為可怕:

當AI間諜潛入社交平臺。去年,安全公司ZeroFOX做了一組實驗,他們想測試人工智能是否比人類更容易欺騙Twitter用戶點擊惡意鏈接??茖W家們從社交網(wǎng)站收集用戶行為數(shù)據(jù)來訓練模型,然后以此設計并生成惡意鏈接誘餌。在測試中,人工智能的表現(xiàn)顯著超越了人類對手,它們撰寫和發(fā)布假消息的能力遠勝人類,而且轉(zhuǎn)化率還更好。

這個AI名叫SNAP_R,它以每分鐘6.75條消息的速率向800名用戶發(fā)送釣魚消息,其中有275名用戶成功上鉤。相比之下,來自福布斯的專業(yè)作家Thomas Fox-Brewster平均每分鐘只能產(chǎn)出1.075條消息,總共發(fā)送了129名用戶,而僅有49名用戶被吸引。幸虧這只是一場實驗,但事實很明顯地告訴我們,在公共的網(wǎng)絡空間里,AI有能力且更加高效地完成人類間諜或者黑客能完成的一切工作。

當AI間諜潛入智能安防。在Geekpwn2017年的年中賽上的網(wǎng)絡安全攻防戰(zhàn)中,百度安全實驗室的謝海闊、黃正利用一款智能鎖默認設置網(wǎng)關不嚴謹?shù)穆┒?,輕易破解了通信協(xié)議、得知密碼加解密算法,獲得門鎖的密碼。賽事評委萬濤認為,理論上利用這個漏洞可實現(xiàn)十分鐘內(nèi)獲得此品牌銷往全國的所有智能鎖的密碼。

這些漏洞在人類面前尚且很容易被發(fā)現(xiàn),可想而知,當它們被擺在AI間諜面前會怎樣。實際上,在私密場景里,憑借電子產(chǎn)品取代傳統(tǒng)鎖匙、門禁建立起的安全防護網(wǎng),正是AI間諜能大展其才的領域。當人類間諜面對智能識別系統(tǒng)無能為力時,AI間諜總有自己的辦法愚弄自己的同類。

雖然AI間諜現(xiàn)在還未成為現(xiàn)實,但我們不妨開一個腦洞,假如自動駕駛的“大腦”被入侵,在北京的大街上就會瞬間多出數(shù)百匹“野馬”,帶著乘客上演《速激8》的戲碼;正在為某個國家元首進行手術的“機器醫(yī)生”程序錯亂,本該進行的幾毫米微創(chuàng)口,一下子變成了半米左右的血窟窿……而這樣的場景是無窮無盡的。

三、作為超能者,竊密對于AI間諜只是小菜一碟

影視劇中,常有人類間諜在入侵到某個實驗室后,將自己的U盤插入設備開始讀條進行竊密任務的橋段,往往在讀條快到100%的時候,他們被人發(fā)現(xiàn),功虧一簣。這樣的失敗決不會發(fā)生在AI間諜身上。

先不論AI間諜能以虛擬的身份侵入,非常隱蔽,在信息搜集和信息處理這些竊密的核心能力上,相較于人類,AI間諜簡直是超人。

AI能大量挖掘公共網(wǎng)站和社交網(wǎng)絡的大數(shù)據(jù),從中提取用戶的出生日期、性別、常住地、電話號碼、電子郵件地址等個人信息,這樣的能力所有人都不會陌生,在此基礎上,通過深度學習,它們獲取信息的準確率和效率更高??梢哉f只要讓AI間諜侵入了系統(tǒng),所有信息對它而言一覽無遺,極短時間內(nèi)它就能一下子完成好幾項竊密任務。

同時,擁有了強大信息處理能力的AI,在竊取信息后,面對海量數(shù)據(jù),能當場進行分析,迅速將得到的結(jié)論傳導出去,以人類間諜不可能想象的速度為大量的軍事行動、商業(yè)決策贏得寶貴時間。前不久,美國研究人員訓練出一個深度學習算法,用以識別“東亞某國”地空導彈基地。這些算法比人類的速度快幾百倍,高效找出分布在一塊近9萬平方公里區(qū)域內(nèi)的地空導彈發(fā)射場。這種人工神經(jīng)網(wǎng)絡基于能夠過濾和學習大量數(shù)據(jù)的人工神經(jīng)元層,達到人類圖像分析專家90%的準確率。令人震驚的是,這種方法還將發(fā)現(xiàn)潛在導彈基地的時間從60小時(2.5天)減少到42分鐘。

面對這些驚人的能力,也難怪Meyerriecks主任不得不說,在當前數(shù)字追蹤和社交媒體的時代背景下,中情局間諜試圖以一種假定的身份生活十分困難,因而,現(xiàn)代世界日益演變成為一個不適宜人類間諜居住的環(huán)境。智能相對論(ID:aixdlun)分析師岳文綸認為,不僅僅是因為人類間諜無處藏身,更因為人類間諜的能力比AI差上太多。而面對這些可能無處不在的AI間諜,我們能怎么辦呢?

AI對抗AI,人工智能時代的左右互搏

《射雕英雄傳》中,周伯通開創(chuàng)了武林絕學左右互搏術,他讓自己的左手跟右手打架,卻不經(jīng)意提升了自己的實力。在未來,要抑制入侵能力、竊密能力都遠勝于人類的AI間諜,恐怕別無他法,還得依靠AI,這簡直是一場人工智能時代的左右互搏。

一、量化風險,在AI間諜入侵之前

未雨綢繆,在沒遭到攻擊之前封堵漏洞,可大量規(guī)避AI間諜入侵的風險,然而繁瑣的網(wǎng)絡風險評估讓許多企業(yè)望而卻步。這時AI技術可以派上用場,借助 AI 的強大計算能力,可以實時處理數(shù)以百萬計的數(shù)據(jù)點,真正做到量化風險。與此同時,還能根據(jù)結(jié)論生成預測,幫助企業(yè)和網(wǎng)絡保險公司獲得最精確的網(wǎng)絡風險評估。

BitSight公司目前是此領域的佼佼者,它們通過部署在全球各地的傳感器,收集了TB級的安全數(shù)據(jù)。從這些數(shù)據(jù)中,BitSight能夠看到攻擊指示器、受感染的機器、不當?shù)呐渲靡约坝袧撛谖:Φ挠脩粜袨椤kS后,BitSight利用算法將這些數(shù)據(jù)依據(jù)嚴重程度、頻率、持續(xù)時間和信心等指標進行分析,再將這些結(jié)果映射到公司的已知網(wǎng)絡,對這些網(wǎng)絡進行安全性能的整體評價。

二、分析行為,AI間諜不能愚弄所有“人”

AI間諜通過自動執(zhí)行某些勞動密集型任務并更有效地確定潛在目標來實施網(wǎng)絡攻擊,攻擊行為往往藏匿于用戶行為中,對于人類安全分析員而言,監(jiān)管少許用戶行為或許難度不大,但當數(shù)據(jù)上升到一定量級,他們就必然會出現(xiàn)收尾難顧的窘態(tài)。MACIE Analytics推出的AI網(wǎng)絡安全分析產(chǎn)品,就致力于解決基于巨量數(shù)據(jù)的用戶行為分析。面對AI間諜的大量侵入,這款產(chǎn)品能實時監(jiān)控客戶的知識產(chǎn)權被何時以及如何訪問,評估誰正在查看、復制或移動特定文檔,以及他們在什么時候這樣做,以便識別可疑的行為模式,并在其發(fā)生之前標記潛在的數(shù)據(jù)泄露行為。

三、斷其后路,AI間諜也難全身而退

如果在預防端和監(jiān)控端都無法阻止AI間諜,那只能盡最大可能地止損。AI間諜竊取信息后,必然要以數(shù)據(jù)的形式將信息傳出,在發(fā)現(xiàn)異常網(wǎng)絡流量輸出時,及時阻止,成為最后救贖。這一類網(wǎng)絡流量異常監(jiān)測產(chǎn)品,不依賴入侵的深度數(shù)據(jù)包檢查,通過AI技術尋找出跨協(xié)議相關性,分析內(nèi)外部網(wǎng)絡流量中無窮無盡的元數(shù)據(jù)相關性,進而發(fā)現(xiàn)問題。專注于該領域的初創(chuàng)企業(yè)包括 Vectra Networks、DarkTrace和 BluVector 等。

目前,基于機器學習、深度學習的人工智能網(wǎng)絡安全正在引發(fā)新的產(chǎn)業(yè)爆點,除了智能相對論(ID:aixdlun)分析師岳文綸提到的一些抵御AI間諜入侵的解決方案,每天不斷有新的AI技術被提出、運用。雖然AI間諜只是一個暫時的假想敵,但可以預見,這只戴著黑手套的左手將會與戴著白手套的AI反間諜系統(tǒng)打得不可開交,它們的水平將交替上升,共同推動人工智能的發(fā)展。

在《諜影重重》系列中,父親無端死去、愛人香消玉殞讓杰森伯恩逐漸對自我價值產(chǎn)生懷疑,最終選擇隱退。而沒有感情的AI間諜不懼拷問、也不會投誠,更不可能幡然醒悟,在未來,它或許將給我們帶來比杰森伯恩們帶來大得多的挑戰(zhàn)。

鏈接已復制,快去分享吧

企業(yè)網(wǎng)版權所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號