本文首發(fā)于微信公眾號(hào)：人工智能學(xué)家。文章內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表和訊網(wǎng)立場(chǎng)。投資者據(jù)此操作，風(fēng)險(xiǎn)請(qǐng)自擔(dān)。

人工智能學(xué)家

計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前，遭到惡意黑客的利用。美國(guó)軍方重點(diǎn)關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問(wèn)題是，人工智能是否能在幾秒或幾分鐘內(nèi)，比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。

今夏，美國(guó)DAPR的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge ）中7個(gè)進(jìn)入決賽的團(tuán)隊(duì)將攜自己的AI戰(zhàn)隊(duì)參賽。這些AI系統(tǒng)可自動(dòng)瀏覽對(duì)手網(wǎng)絡(luò)服務(wù)器并尋找漏洞，還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞，保護(hù)自己的服務(wù)器。比賽的第一名將會(huì)立即獲得200萬(wàn)美金的獎(jiǎng)勵(lì)，第二名和第三名分別為100萬(wàn)和75萬(wàn)。但長(zhǎng)期來(lái)說(shuō)，DAPRA希望，這項(xiàng)挑戰(zhàn)賽的結(jié)果能夠向人類證明，在保護(hù)計(jì)算機(jī)軟件和網(wǎng)絡(luò)永無(wú)止境的戰(zhàn)斗中，現(xiàn)在的自動(dòng)化AI系統(tǒng)已經(jīng)足以輔助人類。

“他們準(zhǔn)備直播這項(xiàng)賽事，讓人們見(jiàn)證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項(xiàng)目經(jīng)理Mike Walker,在7月13號(hào)的電視新聞發(fā)布會(huì)上這樣說(shuō)。“我們希望從這個(gè)比賽中獲得證據(jù)，證明響應(yīng)漏洞的整個(gè)計(jì)算機(jī)安全周期都已經(jīng)可以自動(dòng)化。”

當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù)，大多數(shù)依賴人類團(tuán)隊(duì)，人類專家先手動(dòng)瀏覽崩潰報(bào)告，然后經(jīng)過(guò)嘗試后精準(zhǔn)定位需要修補(bǔ)的問(wèn)題 ；而在由于出現(xiàn)計(jì)算機(jī)故障，導(dǎo)致出現(xiàn)成百上千個(gè)漏洞報(bào)告時(shí)，這個(gè)過(guò)程會(huì)更加乏味和冗長(zhǎng)，讓人難以忍受。微軟等科技巨頭，已經(jīng)開(kāi)始研發(fā)能夠自動(dòng)發(fā)現(xiàn)問(wèn)題并生成漏洞報(bào)告的軟件程序。

但DAPRA希望，能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動(dòng)化AI系統(tǒng)的水平。美國(guó)軍事機(jī)構(gòu)希望，這些自動(dòng)化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時(shí)間。另外，與問(wèn)題發(fā)生后依賴人類專家核查崩潰報(bào)告不同，在任意時(shí)間下自動(dòng)化系統(tǒng)都能夠輔助對(duì)整個(gè)軟件系統(tǒng)的檢測(cè)，。

進(jìn)入決賽的7個(gè)團(tuán)隊(duì)都獲得了高性能計(jì)算硬件，以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號(hào)于拉斯維加斯舉辦的10小時(shí)的網(wǎng)絡(luò)挑戰(zhàn)賽中，他們將會(huì)位居二線，坐觀AI系統(tǒng)之間的對(duì)抗。

決賽開(kāi)始之際，每個(gè)AI選手所在的網(wǎng)絡(luò)都會(huì)運(yùn)行已知協(xié)議，并運(yùn)行事先未經(jīng)檢查的計(jì)算機(jī)代碼。這意味著，AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語(yǔ)言和邏輯，然后才能開(kāi)始尋找漏洞。

為了攻擊對(duì)手，參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個(gè)，AI選手就會(huì)告訴DAPRA的裁判，并預(yù)測(cè)這個(gè)軟件崩潰可能發(fā)生的時(shí)間。就像一個(gè)臺(tái)球選手在排列落袋式臺(tái)球并擊球之前，會(huì)先預(yù)測(cè)開(kāi)球情況，比如“7號(hào)球，落到角落球袋”。Walker 說(shuō)。

AI選手證明對(duì)手存在這些漏洞就可以得分，而如果不能保護(hù)自己的服務(wù)器和應(yīng)對(duì)這些模擬攻擊則會(huì)失分。這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系，保護(hù)自己的服務(wù)器免遭其他對(duì)手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會(huì)使用兩種戰(zhàn)術(shù)，Walker 解釋道，第一個(gè)，你可能會(huì)創(chuàng)建一個(gè)通用的“二進(jìn)制盔甲”，保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點(diǎn)就是，會(huì)因?yàn)檫\(yùn)行常見(jiàn)的計(jì)算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計(jì)算機(jī)能夠保證安全，但不希望保證安全的代價(jià)竟然是兩小時(shí)才發(fā)一個(gè)郵件。”Walker 說(shuō)。

第二個(gè)防御策略中，AI會(huì)尋找軟件漏洞并用專為這些問(wèn)題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對(duì)AI來(lái)說(shuō)，這種反向工程和針對(duì)某個(gè)問(wèn)題的“point patching”（要點(diǎn)修補(bǔ)）更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中，決賽團(tuán)隊(duì)研發(fā)的AI系統(tǒng)確實(shí)已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時(shí)沒(méi)有一個(gè)參賽者能夠完全找到資格賽中出現(xiàn)的590個(gè)軟件漏洞，但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。

然而，如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的，比如發(fā)現(xiàn)漏洞后啟動(dòng)網(wǎng)絡(luò)攻擊怎么辦？網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會(huì)開(kāi)源給大眾。開(kāi)源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞，讓大眾發(fā)現(xiàn)這些漏洞。這種開(kāi)放性，就是Walker 所說(shuō)的，為使這種科技的“邪惡濫用”問(wèn)題最小化，而采用的“開(kāi)放式安全變革”方法的關(guān)鍵。

在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前，Walker 不希望推測(cè)這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來(lái)將會(huì)有怎樣的發(fā)展。但他指出，商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會(huì)使美國(guó)軍方受益，因?yàn)楹笳咄ǔＲ蕾囉谶@些現(xiàn)有技術(shù)。

“在21天以后，我們準(zhǔn)備進(jìn)行一個(gè)科學(xué)實(shí)驗(yàn)和存活性實(shí)驗(yàn)，因此那個(gè)時(shí)候，我可能會(huì)覺(jué)得更適合去推測(cè)比賽結(jié)果。”Walker 說(shuō)，“我可以完全坦誠(chéng)地說(shuō)，在我們給大眾說(shuō)這種自動(dòng)化技術(shù)是存在的，在我們推測(cè)未來(lái)發(fā)展之前，我們將首先切實(shí)證明這些自動(dòng)化技術(shù)的可用性。”

對(duì)這種AI系統(tǒng)來(lái)說(shuō)，在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利，只是第一步。決賽團(tuán)隊(duì)已經(jīng)口頭同意，今年DEF CON（世界上最大的黑客會(huì)議之一）上，他們中的獲獎(jiǎng)?wù)邔?huì)參與一項(xiàng)類似于“奪旗賽（capture the flag）”的競(jìng)賽，與人類黑客對(duì)抗。這項(xiàng)會(huì)議將會(huì)在8月的同一時(shí)間于拉斯維加斯舉行。這意味著，自動(dòng)化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對(duì)峙。

計(jì)算機(jī)軟件“零日”漏洞平均每年會(huì)有312天在人類網(wǎng)絡(luò)安全專家發(fā)現(xiàn)和修補(bǔ)漏洞之前，遭到惡意黑客的利用。美國(guó)軍方重點(diǎn)關(guān)注顛覆性技術(shù)的主要研究機(jī)構(gòu)希望解答的問(wèn)題是，人工智能是否能在幾秒或幾分鐘內(nèi)，比人類更快地發(fā)現(xiàn)和修補(bǔ)這些漏洞。

今夏，美國(guó)DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber GrandChallenge ）中7個(gè)進(jìn)入決賽的團(tuán)隊(duì)將攜自己的AI戰(zhàn)隊(duì)參賽。這些AI系統(tǒng)可自動(dòng)瀏覽對(duì)手網(wǎng)絡(luò)服務(wù)器并尋找漏洞，還可以積極發(fā)現(xiàn)和修補(bǔ)自己的軟件漏洞，保護(hù)自己的服務(wù)器。比賽的第一名將會(huì)立即獲得200萬(wàn)美金的獎(jiǎng)勵(lì)，第二名和第三名分別為100萬(wàn)和75萬(wàn)。但長(zhǎng)期來(lái)說(shuō)，DAPRA希望，這項(xiàng)挑戰(zhàn)賽的結(jié)果能夠向人類證明，在保護(hù)計(jì)算機(jī)軟件和網(wǎng)絡(luò)永無(wú)止境的戰(zhàn)斗中，現(xiàn)在的自動(dòng)化AI系統(tǒng)已經(jīng)足以輔助人類。

“他們準(zhǔn)備直播這項(xiàng)賽事，讓人們見(jiàn)證技術(shù)之間的肉搏。”DAPRA 網(wǎng)絡(luò)挑戰(zhàn)賽的項(xiàng)目經(jīng)理Mike Walker,在7月13號(hào)的電視新聞發(fā)布會(huì)上這樣說(shuō)。“我們希望從這個(gè)比賽中獲得證據(jù)，證明響應(yīng)漏洞的整個(gè)計(jì)算機(jī)安全周期都已經(jīng)可以自動(dòng)化。”

當(dāng)今的網(wǎng)絡(luò)安全防御技術(shù)，大多數(shù)依賴人類團(tuán)隊(duì)，人類專家先手動(dòng)瀏覽崩潰報(bào)告，然后經(jīng)過(guò)嘗試后精準(zhǔn)定位需要修補(bǔ)的問(wèn)題 ；而在由于出現(xiàn)計(jì)算機(jī)故障，導(dǎo)致出現(xiàn)成百上千個(gè)漏洞報(bào)告時(shí)，這個(gè)過(guò)程會(huì)更加乏味和冗長(zhǎng)，讓人難以忍受。微軟等科技巨頭，已經(jīng)開(kāi)始研發(fā)能夠自動(dòng)發(fā)現(xiàn)問(wèn)題并生成漏洞報(bào)告的軟件程序。但DAPRA希望，能夠提高發(fā)現(xiàn)和阻止這些漏洞的自動(dòng)化AI系統(tǒng)的水平。美國(guó)軍事機(jī)構(gòu)希望，這些自動(dòng)化系統(tǒng)能夠大大縮短研發(fā)軟件補(bǔ)丁和應(yīng)用補(bǔ)丁修補(bǔ)軟件安全漏洞的時(shí)間。另外，與問(wèn)題發(fā)生后依賴人類專家核查崩潰報(bào)告不同，在任意時(shí)間下自動(dòng)化系統(tǒng)都能夠輔助對(duì)整個(gè)軟件系統(tǒng)的檢測(cè)，。

進(jìn)入決賽的7個(gè)團(tuán)隊(duì)都獲得了高性能計(jì)算硬件，以研發(fā)各自的人工智能“網(wǎng)絡(luò)推理”系統(tǒng)。8月4號(hào)于拉斯維加斯舉辦的10小時(shí)的網(wǎng)絡(luò)挑戰(zhàn)賽中，他們將會(huì)位居二線，坐觀AI系統(tǒng)之間的對(duì)抗。

決賽開(kāi)始之際，每個(gè)AI選手所在的網(wǎng)絡(luò)都會(huì)運(yùn)行已知協(xié)議，并運(yùn)行事先未經(jīng)檢查的計(jì)算機(jī)代碼。這意味著，AI系統(tǒng)將需要先學(xué)習(xí)網(wǎng)絡(luò)的軟件語(yǔ)言和邏輯，然后才能開(kāi)始尋找漏洞。

為了攻擊對(duì)手，參賽的AI選手需要尋找網(wǎng)絡(luò)服務(wù)器中的漏洞。每發(fā)現(xiàn)一個(gè)，AI選手就會(huì)告訴DAPRA的裁判，并預(yù)測(cè)這個(gè)軟件崩潰可能發(fā)生的時(shí)間。就像一個(gè)臺(tái)球選手在排列落袋式臺(tái)球并擊球之前，會(huì)先預(yù)測(cè)開(kāi)球情況，比如“7號(hào)球，落到角落球袋”。Walker 說(shuō)。AI選手證明對(duì)手存在這些漏洞就可以得分，而如果不能保護(hù)自己的服務(wù)器和應(yīng)對(duì)這些模擬攻擊則會(huì)失分。

這些AI選手還將必須即使創(chuàng)建自己的網(wǎng)絡(luò)防御體系，保護(hù)自己的服務(wù)器免遭其他對(duì)手的攻擊。這些網(wǎng)絡(luò)安全防御體系可能會(huì)使用兩種戰(zhàn)術(shù)，Walker 解釋道，第一個(gè)，你可能會(huì)創(chuàng)建一個(gè)通用的“二進(jìn)制盔甲”，保護(hù)網(wǎng)絡(luò)服務(wù)器的任何部分免受通用威脅。這種方法的缺點(diǎn)就是，會(huì)因?yàn)檫\(yùn)行常見(jiàn)的計(jì)算任務(wù)而減慢服務(wù)器軟件的速度。“人們希望計(jì)算機(jī)能夠保證安全，但不希望保證安全的代價(jià)竟然是兩小時(shí)才發(fā)一個(gè)郵件。”Walker 說(shuō)。

第二個(gè)防御策略中，AI會(huì)尋找軟件漏洞并用專為這些問(wèn)題定制的特定補(bǔ)丁進(jìn)行修補(bǔ)。對(duì)AI來(lái)說(shuō)，這種反向工程和針對(duì)某個(gè)問(wèn)題的“point patching”（要點(diǎn)修補(bǔ)）更有難度。但在2015年6月舉辦的網(wǎng)絡(luò)挑戰(zhàn)賽的資格賽中，決賽團(tuán)隊(duì)研發(fā)的AI系統(tǒng)確實(shí)已經(jīng)能夠生成這樣的補(bǔ)丁。當(dāng)時(shí)沒(méi)有一個(gè)參賽者能夠完全找到資格賽中出現(xiàn)的590個(gè)軟件漏洞，但是所有參賽者發(fā)現(xiàn)的漏洞加在一起囊括了全部漏洞。

然而，如果網(wǎng)絡(luò)安全AI系統(tǒng)服務(wù)于惡意目的，比如發(fā)現(xiàn)漏洞后啟動(dòng)網(wǎng)絡(luò)攻擊怎么辦？網(wǎng)絡(luò)挑戰(zhàn)賽的結(jié)果和參賽者的軟件將會(huì)開(kāi)源給大眾。開(kāi)源軟件使得線上社區(qū)更易發(fā)現(xiàn)和修補(bǔ)這些漏洞，讓大眾發(fā)現(xiàn)這些漏洞。這種開(kāi)放性，就是Walker 所說(shuō)的，為使這種科技的“邪惡濫用”問(wèn)題最小化，而采用的“開(kāi)放式安全變革”方法的關(guān)鍵。

在網(wǎng)絡(luò)挑戰(zhàn)賽決賽之前，Walker 不希望推測(cè)這樣的網(wǎng)絡(luò)安全AI系統(tǒng)未來(lái)將會(huì)有怎樣的發(fā)展。但他指出，商業(yè)軟件的任何網(wǎng)絡(luò)安全方面的提升都會(huì)使美國(guó)軍方受益，因?yàn)楹笳咄ǔＲ蕾囉谶@些現(xiàn)有技術(shù)。

“在21天以后，我們準(zhǔn)備進(jìn)行一個(gè)科學(xué)實(shí)驗(yàn)和存活性實(shí)驗(yàn)，因此那個(gè)時(shí)候，我可能會(huì)覺(jué)得更適合去推測(cè)比賽結(jié)果。”Walker 說(shuō)，“我可以完全坦誠(chéng)地說(shuō)，在我們給大眾說(shuō)這種自動(dòng)化技術(shù)是存在的，在我們推測(cè)未來(lái)發(fā)展之前，我們將首先切實(shí)證明這些自動(dòng)化技術(shù)的可用性。”

對(duì)這種AI系統(tǒng)來(lái)說(shuō)，在DAPRA的網(wǎng)絡(luò)挑戰(zhàn)賽中取得讓世人信服的勝利，只是第一步。決賽團(tuán)隊(duì)已經(jīng)口頭同意，今年DEF CON（世界上最大的黑客會(huì)議之一）上，他們中的獲獎(jiǎng)?wù)邔?huì)參與一項(xiàng)類似于“奪旗賽（capture the flag）”的競(jìng)賽，與人類黑客對(duì)抗。這項(xiàng)會(huì)議將會(huì)在8月的同一時(shí)間于拉斯維加斯舉行。這意味著，自動(dòng)化機(jī)器選手與人類專家將首次進(jìn)行當(dāng)面對(duì)峙。

歡迎報(bào)名參加”人工智能學(xué)家“每月28日舉辦的“創(chuàng)新科技風(fēng)險(xiǎn)投資線上見(jiàn)面會(huì)”，百位著名風(fēng)險(xiǎn)投資人在線關(guān)注您的項(xiàng)目。6月28日10個(gè)項(xiàng)目進(jìn)行線上路演。多數(shù)獲得投資人約談

文章來(lái)源：微信公眾號(hào)人工智能學(xué)家