GenAI將如何在零信任的環(huán)境中增強網絡安全

責任編輯:cres

作者:Louis Columbus

2023-11-28 16:35:00

來源:企業(yè)網D1Net

原創(chuàng)

CISO和CIO繼續(xù)權衡部署GenAI作為持續(xù)學習引擎的好處和它帶來的風險,該引擎不斷捕獲行為、遙測、入侵和漏洞數(shù)據(jù),其目標是實現(xiàn)威脅情報的新“肌肉記憶”,以幫助預測和阻止入侵,同時簡化安全運營的工作流程。

人們對GenAI的信任好壞參半。VentureBeat最近與制造業(yè)和服務業(yè)的幾家CISO進行了交談,了解到盡管營銷、運營,特別是安全方面的生產率有提高的潛力,但對知識產權和數(shù)據(jù)保密性的擔憂是董事會成員最常詢問的風險之一。
 
在新技術的軍備競賽中保持同步
 
研究發(fā)現(xiàn),雖然69%的企業(yè)采用了GenAI工具,但46%的網絡安全專業(yè)人員認為GenAI使企業(yè)更容易受到攻擊,88%的CISO和安全負責人表示,武器化的AI攻擊是不可避免的。
 
85%的人認為GenAI可能為最近的攻擊提供了動力,理由是WormGPT的卷土重來,這是一種新的GenAI,在地下論壇上向有興趣發(fā)動釣魚和商業(yè)電子郵件妥協(xié)攻擊的攻擊者做廣告。武器化的GenAI工具在黑暗網絡和Telegram上出售,很快成為暢銷書。一個例子是,到7月份,F(xiàn)raudGPT的訂閱量很快就達到了3000。
 
CrowdStrike首席科學家兼高級副總裁Sven Krasser告訴VentureBeat,攻擊者正在加快努力,將大型語言模型(LLM)和GenAI武器化。Krasser強調,網絡犯罪分子正在采用LLM技術進行網絡釣魚和惡意軟件,但“雖然這提高了對手可以發(fā)動的攻擊的速度和數(shù)量,但它并沒有顯著改變攻擊的質量。”
 
Krasser繼續(xù)說,“使用AI將來自全球各地的信號關聯(lián)起來的基于云的安全也是對這些新威脅的有效防御。”他觀察到,“當涉及到這些惡意技術時,GenAI并沒有提高標準,但它提高了平均水平,并使技能較低的對手更容易變得更有效。”
 
“在進攻性AI成為主流之前,企業(yè)必須實施網絡AI來防御。當這成為一場算法與算法的戰(zhàn)爭時,只有自主反應才能以機器的速度反擊,以阻止AI增強的攻擊。”Darktrace威脅狩獵主管Max Heinmeyer說。
 
GenAI用例正在推動市場不斷增長
 
GenAI不斷學習的能力是一個引人注目的優(yōu)勢,尤其是在解密終端創(chuàng)建的海量數(shù)據(jù)時,不斷更新的威脅評估和風險優(yōu)先級算法也推動了引人注目的新用例,CISO和CIO預計這些用例將改善行為并預測威脅。Ivanti最近與Securin的合作旨在提供更精確和實時的風險優(yōu)先級算法,同時實現(xiàn)其他幾個關鍵目標,以加強其客戶的安全狀況。
 
Ivanti和Securin正在合作更新風險優(yōu)先排序算法,將Securin的漏洞智能(VI)和Ivanti漏洞知識庫神經元相結合,以提供近乎實時的漏洞威脅情報,以便其客戶的安全專家能夠加快漏洞評估和優(yōu)先排序。Ivanti的首席產品官斯里尼瓦斯·穆卡馬拉博士說:“通過與Securin合作,我們能夠使用AI增強人類智能,為客戶提供強大的情報和風險優(yōu)先級,以應對所有漏洞,無論其來源如何。”
 
Gen AI的許多潛在用例是推動市場增長的令人信服的催化劑,即使CISO社區(qū)對當前一代技術的信任存在分歧。基于AI的生產性網絡安全平臺、系統(tǒng)和解決方案的市場價值預計將從2022年的16億美元上升到2032年的112億美元,年復合增長率為22%。Canalys預計,GenAI將在五年內支持超過70%的企業(yè)網絡安全運營。
 
Forrester將GenAI用例定義為三類:內容創(chuàng)建、行為預測和知識表達。在安全工具中使用AI和ML并不是什么新鮮事。在過去十年中開發(fā)的幾乎每個安全工具都以某種形式使用ML,例如,自適應和情景身份驗證已被用于基于啟發(fā)式規(guī)則、樸素貝葉斯分類和邏輯回歸分析構建風險評分邏輯“,F(xiàn)orrester的首席分析師Allie Mellen寫道。
 
GenAI需要靈活地適應不同的業(yè)務
 
CISO和CIO如何就如何平衡GenAI的風險和好處向董事會提供建議,將決定這項技術在未來幾年的未來。Gartner預測,到2026年,80%的應用程序將包括GenAI功能,這一采用率在大多數(shù)企業(yè)中已經開創(chuàng)了先例。
 
CISO表示,他們正從第一代GenAI應用程序中獲得最大價值,他們表示,一個平臺或應用程序對他們團隊的工作方式有多大的適應性是關鍵,這延伸到基于GenAI的技術如何支持和加強它們正在構建的更廣泛的零信任安全框架。
 
以下是試行GenAI的CISO的用例和指導,以及他們期望看到的最大價值:
 
確保每一代AI應用程序、平臺、工具和終端都作為零信任框架的一部分得到保護
 
對與GenAI工具、應用程序、平臺和端點進行的每一次交互都采取零信任方法是任何CISO劇本的必備條件,這必須包括對用戶、設備及其在靜止和傳輸中使用的數(shù)據(jù)進行持續(xù)監(jiān)控、動態(tài)訪問控制和始終在線驗證。
 
CISO最擔心的是GenAI如何帶來他們沒有準備好防御的新攻擊載體。對于構建LLMS的企業(yè)來說,防止查詢攻擊、及時注入、模型操縱和數(shù)據(jù)中毒是首要任務。
 
使用Gen AI管理知識
 
最流行的用例是使用Gen AI跨安全團隊和大型企業(yè)管理知識,以替代成本更高、耗時更長的系統(tǒng)集成項目。今年,基于ChatGPT的副駕駛主導了RSAC 2023。推出ChatGPT解決方案的供應商包括谷歌安全AI工作臺、微軟安全Copilot(在展會前推出)、Recorded Future、Security Scorecard和SentinelOne。
 
Ivanti在這一領域發(fā)揮了領導作用,因為他們對客戶的IT服務管理(ITSM)、網絡安全和網絡安全需求有深入的了解,他們提供了一個主題為如何用GenAI轉變IT服務管理的網絡研討會,由IvantiAL/ML首席產品經理蘇珊·馮擔任主講。
 
今年早些時候,在CrowdStrike Fal.Con 2023上,這家網絡安全提供商在他們的年度活動上發(fā)布了12項新聲明。Charlotte AI將對話式AI的力量帶到了Falcon平臺上,通過自然語言交互來加速威脅檢測、調查和響應。Charlotte AI生成LLM支持的事件摘要,以幫助安全分析師節(jié)省分析漏洞的時間。
 
Charlotte AI將在明年向所有CrowdStrike Falcon客戶發(fā)布,初步升級將于2023年9月下旬在Raptor平臺上開始。CrowdStrike的首席產品官Raj Rajamani表示,CharlotteAI通過自動化重復性任務,幫助安全分析師“提高兩到三倍的工作效率”。Rajamani向VentureBeat解釋說,CrowdStrike在其圖形數(shù)據(jù)庫架構上投入了大量資金,以支持Charlotte跨越終端、云和身份的能力。
 
識別和修復云配置錯誤
 
云攻擊攻擊同比增長95%,因為攻擊者不斷努力改進他們的交易技巧并破壞云錯誤配置,這是企業(yè)需要防范的增長最快的威脅之一。
 
VentureBeat預測,2024年將出現(xiàn)合并、收購和更多合資企業(yè),旨在縮小多云和混合云安全差距。CrowdStrike今年早些時候收購了Bionic,這只是一個更廣泛趨勢的開始,旨在幫助企業(yè)加強他們的應用安全和狀態(tài)管理。之前旨在提高云安全的收購包括微軟收購CloudKnox Security,CyberArk收購C3M,Snyk收購Fugue,Rubrik收購Lamina。
 
此次收購還有助于增強CloudStrikes在統(tǒng)一平臺上銷售整合的云本地安全的能力,Bionic非常適合CrowdStrikes的云優(yōu)先企業(yè)客戶群,它反映了收購將如何被用來進一步加強Gen AI在網絡安全方面的潛力。
 
關于企業(yè)網D1net(r5u5c.cn):
 
國內主流的to B IT門戶,同時在運營國內最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時運營19個IT行業(yè)公眾號(微信搜索D1net即可關注)。
 
版權聲明:本文為企業(yè)網D1Net編譯,轉載需在文章開頭注明出處為:企業(yè)網D1Net,如果不注明出處,企業(yè)網D1Net將保留追究其法律責任的權利。

鏈接已復制,快去分享吧

企業(yè)網版權所有?2010-2024 京ICP備09108050號-6京公網安備 11010502049343號