電子郵件安全提供商SlashNext打算以人工智能對抗人工智能。BEC(商業(yè)電子郵件泄露)生成式AI是其正在申請專利的新解決方案,旨在幫助識別和阻止由ChatGPT和其他AI模型生成的詐騙消息。
BEC生成式AI使用AI數(shù)據(jù)增強和克隆技術(shù)自動生成數(shù)千個潛在的商業(yè)電子郵件泄露(BEC)威脅。SlashNext現(xiàn)有的人工智能解決方案通過自然語言處理分析這些數(shù)據(jù),學(xué)習(xí)如何更好地檢測惡意電子郵件。
雖然SlashNext聲稱該解決方案是業(yè)界第一個使用生成式AI來阻止BEC攻擊的解決方案,但更廣泛地說,該發(fā)布演示了生成式AI如何在數(shù)據(jù)安全領(lǐng)域發(fā)揮積極作用——在該場景中,這主要是通過增強對釣魚電子郵件和社交工程騙局的檢測來實現(xiàn)的。
人工智能如何徹底改變網(wǎng)絡(luò)釣魚
在去年11月ChatGPT發(fā)布后,網(wǎng)絡(luò)釣魚騙局開始呈上升趨勢,Vade在2022年第四季度發(fā)現(xiàn)了2.783億封獨特的網(wǎng)絡(luò)釣魚郵件,而2022年第三季度該數(shù)字僅為7440萬封。
這些攻擊非常受攻擊者的歡迎,因為它們很容易獲得高回報。例如,惡意行為者可以創(chuàng)建一個虛假的Office 365登錄表單,向毫無戒心的用戶發(fā)送釣魚電子郵件模板,并在他們試圖登錄時獲取其帳戶的詳細(xì)信息。
對于最終用戶和安全團(tuán)隊來說,審查每封電子郵件并確定內(nèi)容是否合法通常十分耗時。事實上,研究發(fā)現(xiàn)70%的企業(yè)要花16-60分鐘來處理一封釣魚郵件。
如果用戶不堪疲勞轟炸,無意中觸發(fā)騙局可能會導(dǎo)致數(shù)百萬美元的數(shù)據(jù)泄露。隨著生成式人工智能的使用不斷增加,員工面臨的威脅數(shù)量只會進(jìn)一步增加。
SlashNext公司的首席執(zhí)行官帕特里克·哈爾(Patrick Harr)指出,“威脅行為者已經(jīng)在使用生成式人工智能來自動化數(shù)千條量身定制的網(wǎng)絡(luò)釣魚信息,同時,它可以創(chuàng)造數(shù)以千計的信息變體,以進(jìn)一步提高攻擊的成功率。像GPT-3這樣的大型語言模型通常也是免費的,惡意行為者可以很快地利用任何新工具來增加攻擊量,同時減少所涉及的時間、精力和成本。這對威脅行為者來說是有利的,安全界必須準(zhǔn)備好以人工智能對抗人工智能。”
雖然生成式人工智能誘發(fā)的騙局增加帶來了新的挑戰(zhàn),但企業(yè)可以使用人工智能來自動化和升級自身的安全操作,確保自身已經(jīng)準(zhǔn)備好快速檢測人工智能生成的惡意內(nèi)容。
電子郵件安全市場
SlashNext的解決方案屬于基于云的電子郵件安全市場,魔多情報公司(Mordor Intelligence)在2020年對該市場的估值為7.682億美元,預(yù)計到2026年將達(dá)到12.4699億美元。
SlashNext的主要競爭對手之一是Abnormal Security,這是一家人工智能驅(qū)動的電子郵件安全提供商,提供了一個使用人工智能評估傳入問題的平臺,并將其與用戶的基線活動進(jìn)行比較,然后,該平臺可以識別表明BEC企圖和網(wǎng)絡(luò)釣魚詐騙的異常通信,自動修復(fù)惡意電子郵件,而無需人類用戶的參與。
去年,Abnormal Security的估值達(dá)到了40億美元。
另一個競爭對手是云電子郵件安全提供商Avanan,該公司提供了一種基于API的解決方案,具有自然語言處理和圖像識別功能,據(jù)稱可以識別出99.2%的釣魚電子郵件。Check Point于2021年以約3億美元收購了Avanan。
Harr認(rèn)為SlashNext與其競爭對手之間的關(guān)鍵區(qū)別在于其零時(zero-hour )威脅檢測的準(zhǔn)確性。他介紹稱,“SlashNext是唯一一家將自然語言處理、計算機(jī)視覺、機(jī)器學(xué)習(xí)、深度上下文化和關(guān)系圖、文件附件檢查和發(fā)送者模擬分析結(jié)合到一個解決方案中的公司,可以實現(xiàn)行業(yè)中最好、最準(zhǔn)確的零時威脅檢測。”
關(guān)于企業(yè)網(wǎng)D1net(r5u5c.cn):
國內(nèi)主流的to B IT門戶,同時在運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時運營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需在文章開頭注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。