DAPRA 挑戰(zhàn)賽中捍衛(wèi)網(wǎng)絡(luò)安全的人工智能選手

責(zé)任編輯:editor006

2016-07-19 17:22:22

摘自:微信公眾號(hào)人工智能學(xué)家

AI選手證明對(duì)手存在這些漏洞就可以得分,而如果不能保護(hù)自己的服務(wù)器和應(yīng)對(duì)這些模擬攻擊則會(huì)失分。計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前,遭到惡意黑客的利用。

本文首發(fā)于微信公眾號(hào):人工智能學(xué)家。文章內(nèi)容屬作者個(gè)人觀點(diǎn),不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作,風(fēng)險(xiǎn)請(qǐng)自擔(dān)。

人工智能學(xué)家

計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前,遭到惡意黑客的利用。美國(guó)軍方重點(diǎn)關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問(wèn)題是,人工智能是否能在幾秒或幾分鐘內(nèi),比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。

計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前,遭到惡意黑客的利用。美國(guó)軍方重點(diǎn)關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問(wèn)題是,人工智能是否能在幾秒或幾分鐘內(nèi),比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。

今夏,美國(guó)DAPR的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge )中7個(gè)進(jìn)入決賽的團(tuán)隊(duì)將攜自己的AI戰(zhàn)隊(duì)參賽。這些AI系統(tǒng)可自動(dòng)瀏覽對(duì)手網(wǎng)絡(luò)服務(wù)器并尋找漏洞,還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞,保護(hù)自己的服務(wù)器。比賽的第一名將會(huì)立即獲得200萬(wàn)美金的獎(jiǎng)勵(lì),第二名和第三名分別為100萬(wàn)和75萬(wàn)。但長(zhǎng)期來(lái)說(shuō),DAPRA希望,這項(xiàng)挑戰(zhàn)賽的結(jié)果能夠向人類證明,在保護(hù)計(jì)算機(jī)軟件和網(wǎng)絡(luò)永無(wú)止境的戰(zhàn)斗中,現(xiàn)在的自動(dòng)化AI系統(tǒng)已經(jīng)足以輔助人類。

“他們準(zhǔn)備直播這項(xiàng)賽事,讓人們見(jiàn)證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項(xiàng)目經(jīng)理Mike Walker,在7月13號(hào)的電視新聞發(fā)布會(huì)上這樣說(shuō)。“我們希望從這個(gè)比賽中獲得證據(jù),證明響應(yīng)漏洞的整個(gè)計(jì)算機(jī)安全周期都已經(jīng)可以自動(dòng)化。”

當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù),大多數(shù)依賴人類團(tuán)隊(duì),人類專家先手動(dòng)瀏覽崩潰報(bào)告,然后經(jīng)過(guò)嘗試后精準(zhǔn)定位需要修補(bǔ)的問(wèn)題 ;而在由于出現(xiàn)計(jì)算機(jī)故障,導(dǎo)致出現(xiàn)成百上千個(gè)漏洞報(bào)告時(shí),這個(gè)過(guò)程會(huì)更加乏味和冗長(zhǎng),讓人難以忍受。微軟等科技巨頭,已經(jīng)開(kāi)始研發(fā)能夠自動(dòng)發(fā)現(xiàn)問(wèn)題并生成漏洞報(bào)告的軟件程序。

但DAPRA希望,能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動(dòng)化AI系統(tǒng)的水平。美國(guó)軍事機(jī)構(gòu)希望,這些自動(dòng)化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時(shí)間。另外,與問(wèn)題發(fā)生后依賴人類專家核查崩潰報(bào)告不同,在任意時(shí)間下自動(dòng)化系統(tǒng)都能夠輔助對(duì)整個(gè)軟件系統(tǒng)的檢測(cè),。

進(jìn)入決賽的7個(gè)團(tuán)隊(duì)都獲得了高性能計(jì)算硬件,以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號(hào)于拉斯維加斯舉辦的10小時(shí)的網(wǎng)絡(luò)挑戰(zhàn)賽中,他們將會(huì)位居二線,坐觀AI系統(tǒng)之間的對(duì)抗。

決賽開(kāi)始之際,每個(gè)AI選手所在的網(wǎng)絡(luò)都會(huì)運(yùn)行已知協(xié)議,并運(yùn)行事先未經(jīng)檢查的計(jì)算機(jī)代碼。這意味著,AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語(yǔ)言和邏輯,然后才能開(kāi)始尋找漏洞。

為了攻擊對(duì)手,參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個(gè),AI選手就會(huì)告訴DAPRA的裁判,并預(yù)測(cè)這個(gè)軟件崩潰可能發(fā)生的時(shí)間。就像一個(gè)臺(tái)球選手在排列落袋式臺(tái)球并擊球之前,會(huì)先預(yù)測(cè)開(kāi)球情況,比如“7號(hào)球,落到角落球袋”。Walker 說(shuō)。

AI選手證明對(duì)手存在這些漏洞就可以得分,而如果不能保護(hù)自己的服務(wù)器和應(yīng)對(duì)這些模擬攻擊則會(huì)失分。這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系,保護(hù)自己的服務(wù)器免遭其他對(duì)手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會(huì)使用兩種戰(zhàn)術(shù),Walker 解釋道,第一個(gè),你可能會(huì)創(chuàng)建一個(gè)通用的“二進(jìn)制盔甲”,保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點(diǎn)就是,會(huì)因?yàn)檫\(yùn)行常見(jiàn)的計(jì)算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計(jì)算機(jī)能夠保證安全,但不希望保證安全的代價(jià)竟然是兩小時(shí)才發(fā)一個(gè)郵件。”Walker 說(shuō)。

第二個(gè)防御策略中,AI會(huì)尋找軟件漏洞并用專為這些問(wèn)題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對(duì)AI來(lái)說(shuō),這種反向工程和針對(duì)某個(gè)問(wèn)題的“point patching”(要點(diǎn)修補(bǔ))更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中,決賽團(tuán)隊(duì)研發(fā)的AI系統(tǒng)確實(shí)已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時(shí)沒(méi)有一個(gè)參賽者能夠完全找到資格賽中出現(xiàn)的590個(gè)軟件漏洞,但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。

然而,如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的,比如發(fā)現(xiàn)漏洞后啟動(dòng)網(wǎng)絡(luò)攻擊怎么辦?網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會(huì)開(kāi)源給大眾。開(kāi)源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞,讓大眾發(fā)現(xiàn)這些漏洞。這種開(kāi)放性,就是Walker 所說(shuō)的,為使這種科技的“邪惡濫用”問(wèn)題最小化,而采用的“開(kāi)放式安全變革”方法的關(guān)鍵。

在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前,Walker 不希望推測(cè)這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來(lái)將會(huì)有怎樣的發(fā)展。但他指出,商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會(huì)使美國(guó)軍方受益,因?yàn)楹笳咄ǔR蕾囉谶@些現(xiàn)有技術(shù)。

“在21天以后,我們準(zhǔn)備進(jìn)行一個(gè)科學(xué)實(shí)驗(yàn)和存活性實(shí)驗(yàn),因此那個(gè)時(shí)候,我可能會(huì)覺(jué)得更適合去推測(cè)比賽結(jié)果。”Walker 說(shuō),“我可以完全坦誠(chéng)地說(shuō),在我們給大眾說(shuō)這種自動(dòng)化技術(shù)是存在的,在我們推測(cè)未來(lái)發(fā)展之前,我們將首先切實(shí)證明這些自動(dòng)化技術(shù)的可用性。”

對(duì)這種AI系統(tǒng)來(lái)說(shuō),在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利,只是第一步。決賽團(tuán)隊(duì)已經(jīng)口頭同意,今年DEF CON(世界上最大的黑客會(huì)議之一)上,他們中的獲獎(jiǎng)?wù)邔?huì)參與一項(xiàng)類似于“奪旗賽(capture the flag)”的競(jìng)賽,與人類黑客對(duì)抗。這項(xiàng)會(huì)議將會(huì)在8月的同一時(shí)間于拉斯維加斯舉行。這意味著,自動(dòng)化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對(duì)峙。

計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前,遭到惡意黑客的利用。美國(guó)軍方重點(diǎn)關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問(wèn)題是,人工智能是否能在幾秒或幾分鐘內(nèi),比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。

今夏,美國(guó)DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge )中7個(gè)進(jìn)入決賽的團(tuán)隊(duì)將攜自己的AI戰(zhàn)隊(duì)參賽。這些AI系統(tǒng)可自動(dòng)瀏覽對(duì)手網(wǎng)絡(luò)服務(wù)器并尋找漏洞,還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞,保護(hù)自己的服務(wù)器。比賽的第一名將會(huì)立即獲得200萬(wàn)美金的獎(jiǎng)勵(lì),第二名和第三名分別為100萬(wàn)和75萬(wàn)。但長(zhǎng)期來(lái)說(shuō),DAPRA希望,這項(xiàng)挑戰(zhàn)賽的結(jié)果能夠向人類證明,在保護(hù)計(jì)算機(jī)軟件和網(wǎng)絡(luò)永無(wú)止境的戰(zhàn)斗中,現(xiàn)在的自動(dòng)化AI系統(tǒng)已經(jīng)足以輔助人類。

“他們準(zhǔn)備直播這項(xiàng)賽事,讓人們見(jiàn)證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項(xiàng)目經(jīng)理Mike Walker,在7月13號(hào)的電視新聞發(fā)布會(huì)上這樣說(shuō)。“我們希望從這個(gè)比賽中獲得證據(jù),證明響應(yīng)漏洞的整個(gè)計(jì)算機(jī)安全周期都已經(jīng)可以自動(dòng)化。”

當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù),大多數(shù)依賴人類團(tuán)隊(duì),人類專家先手動(dòng)瀏覽崩潰報(bào)告,然后經(jīng)過(guò)嘗試后精準(zhǔn)定位需要修補(bǔ)的問(wèn)題 ;而在由于出現(xiàn)計(jì)算機(jī)故障,導(dǎo)致出現(xiàn)成百上千個(gè)漏洞報(bào)告時(shí),這個(gè)過(guò)程會(huì)更加乏味和冗長(zhǎng),讓人難以忍受。微軟等科技巨頭,已經(jīng)開(kāi)始研發(fā)能夠自動(dòng)發(fā)現(xiàn)問(wèn)題并生成漏洞報(bào)告的軟件程序。但DAPRA希望,能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動(dòng)化AI系統(tǒng)的水平。美國(guó)軍事機(jī)構(gòu)希望,這些自動(dòng)化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時(shí)間。另外,與問(wèn)題發(fā)生后依賴人類專家核查崩潰報(bào)告不同,在任意時(shí)間下自動(dòng)化系統(tǒng)都能夠輔助對(duì)整個(gè)軟件系統(tǒng)的檢測(cè),。

進(jìn)入決賽的7個(gè)團(tuán)隊(duì)都獲得了高性能計(jì)算硬件,以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號(hào)于拉斯維加斯舉辦的10小時(shí)的網(wǎng)絡(luò)挑戰(zhàn)賽中,他們將會(huì)位居二線,坐觀AI系統(tǒng)之間的對(duì)抗。

決賽開(kāi)始之際,每個(gè)AI選手所在的網(wǎng)絡(luò)都會(huì)運(yùn)行已知協(xié)議,并運(yùn)行事先未經(jīng)檢查的計(jì)算機(jī)代碼。這意味著,AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語(yǔ)言和邏輯,然后才能開(kāi)始尋找漏洞。

為了攻擊對(duì)手,參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個(gè),AI選手就會(huì)告訴DAPRA的裁判,并預(yù)測(cè)這個(gè)軟件崩潰可能發(fā)生的時(shí)間。就像一個(gè)臺(tái)球選手在排列落袋式臺(tái)球并擊球之前,會(huì)先預(yù)測(cè)開(kāi)球情況,比如“7號(hào)球,落到角落球袋”。Walker 說(shuō)。AI選手證明對(duì)手存在這些漏洞就可以得分,而如果不能保護(hù)自己的服務(wù)器和應(yīng)對(duì)這些模擬攻擊則會(huì)失分。

這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系,保護(hù)自己的服務(wù)器免遭其他對(duì)手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會(huì)使用兩種戰(zhàn)術(shù),Walker 解釋道,第一個(gè),你可能會(huì)創(chuàng)建一個(gè)通用的“二進(jìn)制盔甲”,保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點(diǎn)就是,會(huì)因?yàn)檫\(yùn)行常見(jiàn)的計(jì)算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計(jì)算機(jī)能夠保證安全,但不希望保證安全的代價(jià)竟然是兩小時(shí)才發(fā)一個(gè)郵件。”Walker 說(shuō)。

第二個(gè)防御策略中,AI會(huì)尋找軟件漏洞并用專為這些問(wèn)題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對(duì)AI來(lái)說(shuō),這種反向工程和針對(duì)某個(gè)問(wèn)題的“point patching”(要點(diǎn)修補(bǔ))更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中,決賽團(tuán)隊(duì)研發(fā)的AI系統(tǒng)確實(shí)已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時(shí)沒(méi)有一個(gè)參賽者能夠完全找到資格賽中出現(xiàn)的590個(gè)軟件漏洞,但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。

然而,如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的,比如發(fā)現(xiàn)漏洞后啟動(dòng)網(wǎng)絡(luò)攻擊怎么辦?網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會(huì)開(kāi)源給大眾。開(kāi)源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞,讓大眾發(fā)現(xiàn)這些漏洞。這種開(kāi)放性,就是Walker 所說(shuō)的,為使這種科技的“邪惡濫用”問(wèn)題最小化,而采用的“開(kāi)放式安全變革”方法的關(guān)鍵。

在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前,Walker 不希望推測(cè)這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來(lái)將會(huì)有怎樣的發(fā)展。但他指出,商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會(huì)使美國(guó)軍方受益,因?yàn)楹笳咄ǔR蕾囉谶@些現(xiàn)有技術(shù)。

“在21天以后,我們準(zhǔn)備進(jìn)行一個(gè)科學(xué)實(shí)驗(yàn)和存活性實(shí)驗(yàn),因此那個(gè)時(shí)候,我可能會(huì)覺(jué)得更適合去推測(cè)比賽結(jié)果。”Walker 說(shuō),“我可以完全坦誠(chéng)地說(shuō),在我們給大眾說(shuō)這種自動(dòng)化技術(shù)是存在的,在我們推測(cè)未來(lái)發(fā)展之前,我們將首先切實(shí)證明這些自動(dòng)化技術(shù)的可用性。”

對(duì)這種AI系統(tǒng)來(lái)說(shuō),在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利,只是第一步。決賽團(tuán)隊(duì)已經(jīng)口頭同意,今年DEF CON(世界上最大的黑客會(huì)議之一)上,他們中的獲獎(jiǎng)?wù)邔?huì)參與一項(xiàng)類似于“奪旗賽(capture the flag)”的競(jìng)賽,與人類黑客對(duì)抗。這項(xiàng)會(huì)議將會(huì)在8月的同一時(shí)間于拉斯維加斯舉行。這意味著,自動(dòng)化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對(duì)峙。

歡迎報(bào)名參加”人工智能學(xué)家“每月28日舉辦的“創(chuàng)新科技風(fēng)險(xiǎn)投資線上見(jiàn)面會(huì)”,百位著名風(fēng)險(xiǎn)投資人在線關(guān)注您的項(xiàng)目。6月28日10個(gè)項(xiàng)目進(jìn)行線上路演。多數(shù)獲得投資人約談

文章來(lái)源:微信公眾號(hào)人工智能學(xué)家

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號(hào)-6京公網(wǎng)安備 11010502049343號(hào)