人工智能和機器學(xué)習(xí)在網(wǎng)絡(luò)安全中的7種積極和消極影響

責(zé)任編輯:cres

作者:Andrey Shklyarov

2021-07-26 10:06:49

來源:企業(yè)網(wǎng)D1Net

原創(chuàng)

人工智能 機器學(xué)習(xí)用于網(wǎng)絡(luò)流量分析、入侵檢測系統(tǒng)、入侵防御系統(tǒng)、安全訪問服務(wù)邊緣、用戶和實體行為分析以及Gartner公司所描述的大多數(shù)技術(shù)領(lǐng)域。

人工智能(AI)和機器學(xué)習(xí)(ML)技術(shù)如今已經(jīng)成為人們?nèi)粘I畹囊徊糠?,其中包括網(wǎng)絡(luò)安全。在網(wǎng)絡(luò)安全人員的手中,人工智能/機器學(xué)習(xí)(ML)可以識別漏洞并縮短事件響應(yīng)時間。但在網(wǎng)絡(luò)罪犯手中,人工智能/機器學(xué)習(xí)(ML)則可能會造成重大傷害。
 
以下是人工智能/機器學(xué)習(xí)影響網(wǎng)絡(luò)安全的七種積極方式和七種消極方式。
 
人工智能/機器學(xué)習(xí)對網(wǎng)絡(luò)安全的7個積極影響
 
(1)欺詐和異常檢測:這是人工智能工具在網(wǎng)絡(luò)安全領(lǐng)域進行救援的最常見方式。復(fù)合人工智能欺詐檢測引擎在識別復(fù)雜的騙局模式方面表現(xiàn)出色。欺詐檢測系統(tǒng)的高級分析儀表板提供有關(guān)攻擊事件的全面詳細(xì)信息。這是異常檢測的一般領(lǐng)域中極其重要的領(lǐng)域。
 
(2)電子郵件垃圾郵件過濾器:防御性規(guī)則過濾掉帶有可疑詞語的郵件,以識別危險的電子郵件。此外,垃圾郵件過濾器可以保護電子郵件用戶,并減少處理不需要的通信所需的時間。
 
(3)僵尸網(wǎng)絡(luò)檢測:有監(jiān)督和無監(jiān)督的機器學(xué)習(xí)算法不僅有助于檢測,還能防止復(fù)雜的機器人攻擊。它們還有助于識別用戶行為模式,以極低的誤報率識別未檢測到的網(wǎng)絡(luò)攻擊。
 
(4)漏洞管理:管理漏洞(人工管理或使用工具)可能很困難,但人工智能系統(tǒng)使其變得更容易。人工智能工具通過分析用戶行為、端點、服務(wù)器甚至暗網(wǎng)上的討論來尋找潛在漏洞,以識別代碼漏洞并預(yù)測攻擊。
 
(5)防惡意軟件:人工智能技術(shù)幫助防病毒軟件檢測正常文件和不良文件,從而可以識別新形式的惡意軟件,即使以前從未見過。雖然用基于人工智能的技術(shù)完全替代傳統(tǒng)技術(shù)可以加快檢測速度,但也會增加誤報率。結(jié)合傳統(tǒng)方法和人工智能可以檢測100%的惡意軟件。
 
(6)數(shù)據(jù)泄漏預(yù)防:人工智能幫助識別文本和非文本文檔中的特定數(shù)據(jù)類型??梢杂?xùn)練可訓(xùn)練的分類器來檢測不同的敏感信息類型。這些人工智能方法可以使用適當(dāng)?shù)淖R別算法搜索圖像、語音記錄或視頻中的數(shù)據(jù)。
 
(7)SIEM和SOAR:機器學(xué)習(xí)可以使用安全信息和事件管理(SIEM)以及安全編排、自動化和響應(yīng)(SOAR)工具來改進數(shù)據(jù)自動化和情報收集、檢測可疑行為模式,以及根據(jù)輸入自動響應(yīng)。
 
人工智能/機器學(xué)習(xí)用于網(wǎng)絡(luò)流量分析、入侵檢測系統(tǒng)、入侵防御系統(tǒng)、安全訪問服務(wù)邊緣、用戶和實體行為分析以及Gartner公司所描述的大多數(shù)技術(shù)領(lǐng)域。事實上,很難想象現(xiàn)代安全工具沒有采用某種人工智能/機器學(xué)習(xí)技術(shù)。
 
人工智能/機器學(xué)習(xí)對網(wǎng)絡(luò)安全的7個消極影響
 
(1)數(shù)據(jù)收集:通過社會工程和其他技術(shù),采用機器學(xué)習(xí)技術(shù)用于更好地分析受害者,網(wǎng)絡(luò)犯罪分子利用這些信息加速攻擊。例如,在2018年,WordPress網(wǎng)站經(jīng)歷了大規(guī)模的基于機器學(xué)習(xí)的僵尸網(wǎng)絡(luò)感染,黑客可以訪問用戶的個人信息。
 
(2)勒索軟件:勒索軟件正在快速增長。犯罪成功案例很多;最嚴(yán)重的事件之一導(dǎo)致Colonial 輸油管道中斷6天,并不得不支付了440萬美元的勒索贖金。
 
(3)垃圾郵件、網(wǎng)絡(luò)釣魚和魚叉式網(wǎng)絡(luò)釣魚:機器學(xué)習(xí)算法可以創(chuàng)建看起來像真實消息的虛假消息,旨在竊取用戶憑據(jù)。在BlackHat會議的一次演講中,John Seymour和Philip Tully詳細(xì)介紹了機器學(xué)習(xí)算法如何生成帶有虛假網(wǎng)絡(luò)釣魚鏈接的病毒式推文,其攻擊效果是人工創(chuàng)建的網(wǎng)絡(luò)釣魚消息的四倍。
 
(4)Deepfakes:在語音網(wǎng)絡(luò)釣魚中,詐騙者使用機器學(xué)習(xí)生成的Deepfake音頻技術(shù)來制造更成功的網(wǎng)絡(luò)攻擊。例如深度語音等現(xiàn)代算法只需要幾秒鐘的語音就可以模仿受害者的語音、口音和語調(diào)。
 
(5)惡意軟件:機器學(xué)習(xí)可以隱藏跟蹤節(jié)點和端點行為的惡意軟件,并構(gòu)建模仿受害者網(wǎng)絡(luò)上合法網(wǎng)絡(luò)流量的模式。它還可以在惡意軟件中加入一種自毀機制,以放大網(wǎng)絡(luò)攻擊速度。人工智能算法經(jīng)過訓(xùn)練可以比人類更快地提取數(shù)據(jù),這使得它更難預(yù)防。
 
(6)密碼和驗證碼:采用神經(jīng)網(wǎng)絡(luò)驅(qū)動的軟件聲稱可以輕松破解人類識別系統(tǒng)。機器學(xué)習(xí)技術(shù)使網(wǎng)絡(luò)犯罪分子能夠分析大量密碼數(shù)據(jù)集,以更好地定位密碼猜測。例如,PassGAN使用機器學(xué)習(xí)算法比使用傳統(tǒng)技術(shù)的流行密碼破解工具更準(zhǔn)確地猜測密碼。
 
(7)攻擊人工智能/機器學(xué)習(xí)本身:濫用在醫(yī)療保健、軍事和其他高價值部門核心工作的算法可能會導(dǎo)致災(zāi)難。Berryville機器學(xué)習(xí)研究所的機器學(xué)習(xí)系統(tǒng)架構(gòu)風(fēng)險分析有助于分析已知的機器學(xué)習(xí)攻擊分類法,并對機器學(xué)習(xí)算法進行架構(gòu)風(fēng)險分析。安全工程師必須學(xué)習(xí)如何在其生命周期的每個階段保護機器學(xué)習(xí)算法。
 
人們很容易理解為什么人工智能/機器學(xué)習(xí)受到如此多的關(guān)注。而對抗復(fù)雜的網(wǎng)絡(luò)攻擊的唯一方法是利用人工智能的防御潛力。業(yè)界人士必須注意到機器學(xué)習(xí)在檢測異常(例如,流量模式或人為錯誤)方面的強大功能。通過采用適當(dāng)?shù)膶Σ吆痛胧梢苑乐够蝻@著減少可能的損害。
 
總體而言,人工智能/機器學(xué)習(xí)在防范網(wǎng)絡(luò)威脅方面具有巨大價值。一些政府和企業(yè)正在使用或討論使用人工智能/機器學(xué)習(xí)來打擊網(wǎng)絡(luò)犯罪分子。雖然圍繞人工智能/機器學(xué)習(xí)的隱私和道德問題是合理的,但政府部門必須確保人工智能/機器學(xué)習(xí)法規(guī)不會阻止企業(yè)使用人工智能/機器學(xué)習(xí)進行保護。因為眾所周知,網(wǎng)絡(luò)犯罪分子并不會遵守這些法規(guī)。
 
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號