伴隨ChatGPT大火，生成式AI作為一種全新的技術(shù)范式，正在如火如荼地走向企業(yè)業(yè)務(wù)，讓AI在企業(yè)加速落地，改變?nèi)藗兘鉀Q問題的方式。然而，隨著生成式AI影響的擴(kuò)大和應(yīng)用場景的井噴，如何確保生成式AI的安全性，成為企業(yè)IT和安全部門不可回避的挑戰(zhàn)。

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞近日在“2023亞馬遜云科技re:Inforce中國站”的主題演講中表示：“生成式AI應(yīng)用就像是海面上的冰山，要想在企業(yè)里安全地駕馭這項(xiàng)新技術(shù)，還需要關(guān)注海面下的冰川。我們不能只關(guān)注AI應(yīng)用本身，而應(yīng)從全棧的角度，去全面審視應(yīng)用、模型、數(shù)據(jù)、基礎(chǔ)架構(gòu)的安全規(guī)范、技術(shù)策略和平臺(tái)工具。”

國際開源安全組織發(fā)布的2023年針對大語言模型應(yīng)用的十大安全威脅提醒我們，提示詞注入、數(shù)據(jù)泄露、沙箱隔離不足、未經(jīng)授權(quán)的代碼執(zhí)行、SSRF漏洞、過度依賴LLM生成的內(nèi)容、人工智能調(diào)整能力不足、訪問控制不足、錯(cuò)誤處理不當(dāng)和訓(xùn)練數(shù)據(jù)污染等安全威脅不得不防。

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞

這些安全威脅正在發(fā)生，以數(shù)據(jù)泄露為例，某大型國際企業(yè)在采用了某個(gè)基于大語言模型的公開聊天應(yīng)用服務(wù)后，在20天內(nèi)連續(xù)出現(xiàn)了3起數(shù)據(jù)泄露事件，包括良品率泄露、代碼泄露、會(huì)議內(nèi)容泄露等，這些是訪問控制不足的重要體現(xiàn)。

由此可見，AIGC時(shí)代安全是構(gòu)建生成式AI應(yīng)用不可回避的議題。代聞從數(shù)據(jù)和模型安全、應(yīng)用安全以及全球合規(guī)三個(gè)方面展開了詳細(xì)論述。

數(shù)據(jù)和模型安全是構(gòu)建AI應(yīng)用的關(guān)鍵

生成式AI的井噴對于大多數(shù)企業(yè)的數(shù)據(jù)平臺(tái)提出了更高的要求。

亞馬遜云科技在大數(shù)據(jù)和AI領(lǐng)域耕耘多年，提供了貫穿生成式AI全周期的數(shù)據(jù)治理，包括從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲(chǔ)和查詢，再到將數(shù)據(jù)傳輸給AI平臺(tái)進(jìn)行模型訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類和治理的一整套解決方案、產(chǎn)品服務(wù)和最佳實(shí)踐，幫助企業(yè)加速落地端到端的云原生數(shù)據(jù)戰(zhàn)略，為生成式AI 提供高質(zhì)量的數(shù)據(jù)支持。

數(shù)據(jù)安全涉及三個(gè)維度：

一、保護(hù)存儲(chǔ)中的數(shù)據(jù)。

企業(yè)在使用開源或商用大語言模型時(shí)需要對行業(yè)化數(shù)據(jù)、場景化數(shù)據(jù)進(jìn)行微調(diào)，要保護(hù)這些高質(zhì)量數(shù)據(jù)，既要防止數(shù)據(jù)泄露，又要防止數(shù)據(jù)篡改。這就要求企業(yè)要全面保障數(shù)據(jù)存儲(chǔ)、從數(shù)據(jù)湖到模型訓(xùn)練的數(shù)據(jù)傳輸，以及模型應(yīng)用的環(huán)境。亞馬遜云科技通過實(shí)施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強(qiáng)制實(shí)施訪問控制、利用機(jī)制限制數(shù)據(jù)訪問，來保護(hù)存儲(chǔ)中的數(shù)據(jù)。

本次大會(huì)上，亞馬遜云科技推出了“敏感數(shù)據(jù)保護(hù)解決方案”，可實(shí)現(xiàn)對企業(yè)敏感數(shù)據(jù)的自動(dòng)化發(fā)現(xiàn)，并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。該方案允許客戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型，利用機(jī)器學(xué)習(xí)、模式匹配的方式自動(dòng)識別敏感數(shù)據(jù)，并提供可視化面板，幫助客戶更輕松地對敏感數(shù)據(jù)進(jìn)行管理和保護(hù)。

二、保護(hù)傳輸中的數(shù)據(jù)。

亞馬遜云科技從實(shí)施安全密鑰和證書管理、執(zhí)行傳輸中加密、自動(dòng)檢測意外數(shù)據(jù)訪問、對網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證四個(gè)方面對傳輸中的數(shù)據(jù)進(jìn)行保護(hù)。為了多層次保護(hù)傳輸中的數(shù)據(jù)，亞馬遜云科技通過跨區(qū)域之間的數(shù)據(jù)傳輸、VPC內(nèi)部以及VPC之間的傳輸、遷移上云的過程中、強(qiáng)烈要求客戶將應(yīng)用程序升級到TLS 1.2、并使用AES 256作為密碼，從整個(gè)基礎(chǔ)架構(gòu)上實(shí)現(xiàn)應(yīng)用層的加密和傳輸?shù)谋Ｗo(hù)。

三、保護(hù)使用中的數(shù)據(jù)。

亞馬遜云科技從身份認(rèn)證、隔離環(huán)境、多方協(xié)作以及數(shù)據(jù)共享四個(gè)方面，對使用中的數(shù)據(jù)進(jìn)行保護(hù)。

模型安全：

模型訓(xùn)練后進(jìn)入生產(chǎn)環(huán)境的安全防護(hù)同樣重要。亞馬遜云科技針對大模型推出了Amazon Bedrock和多種生成式AI的服務(wù)和功能，提供了廣泛的基礎(chǔ)模型，以幫助客戶根據(jù)自身需求構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序。

Amazon Bedrock接入了廣泛的基礎(chǔ)模型，通過API可以調(diào)用大模型，加速生成式AI應(yīng)用程序的開發(fā)，而無須管理底層的基礎(chǔ)設(shè)施。Amazon Bedrock會(huì)負(fù)責(zé)任地選取一些合作伙伴(如AI21 Labs、Anthropic、Stability AI、Cohere)以及基礎(chǔ)模型，便于客戶結(jié)合場景快速地找到最合適的、能力最強(qiáng)的基礎(chǔ)模型。

代聞強(qiáng)調(diào)：企業(yè)使用組織內(nèi)部的數(shù)據(jù)來訓(xùn)練大模型，Amazon Bedrock保證給大模型做了私有拷貝，只為這一客戶服務(wù)，保證訓(xùn)練數(shù)據(jù)只在客戶的賬戶里，不會(huì)再跟其他任何大模型共享，Amazon Bedrock也不會(huì)拿任何用戶的數(shù)據(jù)增進(jìn)自己的模型。這一保證能很好地打消企業(yè)在采用大模型時(shí)對于數(shù)據(jù)主權(quán)、數(shù)據(jù)保護(hù)方面的擔(dān)憂。

Amazon Bedrock還能全面地使用亞馬遜云科技提供的安全功能，與Amazon KMS、Amazon IAM等集成后可以很好地管理加密、權(quán)限控制和所有行為的日志。

此外，亞馬遜云科技還支持模型提供商提供負(fù)責(zé)任的AI，同時(shí)也提供了自己的大模型Amazon Titan給客戶使用，包括能夠執(zhí)行文本類任務(wù)的Titan Text及能執(zhí)行個(gè)性化推薦任務(wù)的Titan Embeddings在內(nèi)的兩個(gè)基礎(chǔ)模型。亞馬遜云科技致力于開發(fā)公平且準(zhǔn)確的AI和機(jī)器學(xué)習(xí)服務(wù)，并為客戶提供負(fù)責(zé)任地構(gòu)建相關(guān)應(yīng)用程序所需的工具和指導(dǎo)，亞馬遜云科技承諾Amazon Titan可以通過減少和消除不當(dāng)或有害的內(nèi)容來支持負(fù)責(zé)任AI的實(shí)現(xiàn)。

應(yīng)用安全是實(shí)現(xiàn)AI價(jià)值的保障

應(yīng)用能夠創(chuàng)造價(jià)值，而應(yīng)用安全則是實(shí)現(xiàn)AI價(jià)值的重要保障。

應(yīng)用安全的防護(hù)包括兩個(gè)階段：

1、開發(fā)流程中的安全(DevSecOps)

從DevOps到DevSecOps，安全應(yīng)該貫穿從開發(fā)、持續(xù)集成、持續(xù)部署到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過程中。亞馬遜云科技利用自身經(jīng)驗(yàn)，將AI防護(hù)應(yīng)用到軟件開發(fā)的全生命周期，讓開發(fā)更便捷，更安全。

亞馬遜云科技近期發(fā)布了兩大AI開發(fā)安全能力：其中，Amazon CodeWhisperer服務(wù)是一款A(yù)I編程助手，內(nèi)置代碼安全掃描功能，可根據(jù)開發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實(shí)時(shí)生成代碼建議，可幫助查找難以檢測的漏洞并提出補(bǔ)救建議;Amazon CodeGuru Security可以掃描代碼，在代碼中尋找包括調(diào)用包漏洞在內(nèi)的諸多代碼邏輯漏洞，還能在CICD過程中通過人工智能和機(jī)器學(xué)習(xí)的方式自動(dòng)降低誤報(bào)率，同時(shí)它基于API設(shè)計(jì)，能夠便捷地集成到開發(fā)的工作流中去，實(shí)現(xiàn)集中化和擴(kuò)展性。

2、運(yùn)行中的安全

由于大模型可以跨領(lǐng)域，因此未來大模型很可能實(shí)現(xiàn)跨部門的支持，允許各個(gè)部門的業(yè)務(wù)人員訪問。如何實(shí)現(xiàn)良好的訪問隔離，為不同部門提供不同的權(quán)限呢?針對應(yīng)用運(yùn)行當(dāng)中的安全訪問，代聞建議企業(yè)可以構(gòu)建零信任的應(yīng)用安全訪問策略。

首先，企業(yè)需要建立一個(gè)可信任的網(wǎng)絡(luò)通道，Amazon Verified Access可以搭建一套無需VPN的網(wǎng)絡(luò)驗(yàn)證系統(tǒng)，可以使用Amazon IAM或客戶自己的用戶認(rèn)證系統(tǒng)，來完成這個(gè)認(rèn)證程序，并且支持用戶自己設(shè)置規(guī)則。而這些管控，可以在幾乎不對應(yīng)用進(jìn)行任何代碼改變的情況下部署和發(fā)生。

同時(shí)，亞馬遜云科技推出的Amazon Verified Permissions，可為用戶構(gòu)建的應(yīng)用程序提供更加細(xì)粒度的授權(quán)和權(quán)限管理，用戶可以使用該服務(wù)管理其應(yīng)用程序的角色和屬性的訪問控制。為了方便用戶書寫所有的授權(quán)規(guī)則，亞馬遜云科技還發(fā)布了新的開源語言——CEDAR，用于編寫和執(zhí)行授權(quán)策略，讓用戶輕松、快捷地創(chuàng)建所有訪問控制權(quán)限。

零信任能夠?qū)崿F(xiàn)按需的授權(quán)和認(rèn)證，但網(wǎng)絡(luò)控制也非常關(guān)鍵。在大模型時(shí)代，零信任和網(wǎng)絡(luò)控制是實(shí)現(xiàn)企業(yè)端到端應(yīng)用安全的兩大支柱。網(wǎng)絡(luò)控制涵蓋網(wǎng)絡(luò)防護(hù)和威脅識別兩個(gè)層面。

針對網(wǎng)絡(luò)防護(hù)，亞馬遜云科技提供三類防護(hù)服務(wù)：Amazon Shield用于防DDos攻擊，Amazon WAF提供網(wǎng)頁防火墻支撐，Amazon Firewall Manager讓用戶可以輕松管控防火墻策略。據(jù)統(tǒng)計(jì)，2022年Amazon Shield緩解了70萬次DDos攻擊，每天Amazon WAF上的托管規(guī)則請求超過3500億條。

針對威脅識別，Amazon GuardDuty使用了基于人工智能和機(jī)器學(xué)習(xí)的技術(shù)來檢測所有的威脅，它能夠?qū)崿F(xiàn)初期的威脅檢測，還可以做持續(xù)的分析，以智能化的手段給予采取行動(dòng)的建議，從而使安全事件的誤報(bào)率減少50%。

利用AI提升安全合規(guī)效率

伴隨各國安全法律法規(guī)的逐步完善，目前已有超過130多個(gè)國家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)。同時(shí)由于云計(jì)算的大規(guī)模普及，越來越多的重要數(shù)據(jù)正在加速上云，而且數(shù)量和種類也在持續(xù)增加。隨著企業(yè)業(yè)務(wù)的持續(xù)變化，尤其是大模型運(yùn)用帶來的業(yè)務(wù)變化給安全合規(guī)帶來了新的挑戰(zhàn)。

亞馬遜云科技現(xiàn)已在全球獲得超過140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，值得一提的是，這些合規(guī)認(rèn)證不只覆蓋了基礎(chǔ)設(shè)施，還有包括容器平臺(tái)、無服務(wù)器平臺(tái)在內(nèi)的諸多平臺(tái)應(yīng)用。亞馬遜云科技現(xiàn)已將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中，能夠?yàn)榇笠?guī)模批量審查提供安全控制，利用自動(dòng)化減少手工操作以降低錯(cuò)誤，利用AI提供一致性判斷，利用AI/ML技術(shù)實(shí)現(xiàn)自動(dòng)審查，全面提升合規(guī)效率。通過在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用AI技術(shù)，亞馬遜云科技大幅提升了自身的合規(guī)效率，將審計(jì)時(shí)間節(jié)約了53%。

借助APN合作伙伴網(wǎng)絡(luò)，亞馬遜云科技攜手全球安全伙伴，構(gòu)建1+1>2的安全合作，提供了數(shù)百種行業(yè)領(lǐng)先的安全解決方案、落地指南以及最佳實(shí)踐，多層保護(hù)客戶的應(yīng)用和數(shù)據(jù)安全。亞馬遜云科技攜手合作伙伴在技術(shù)方面可為客戶提供網(wǎng)絡(luò)安全、主機(jī)安全、應(yīng)用安全、身份認(rèn)證、威脅檢測和事件分析、數(shù)據(jù)治理以及安全自動(dòng)化運(yùn)維等技術(shù)支持服務(wù);在咨詢方面可提供方案建議、合規(guī)建議以及全面的安全咨詢服務(wù)和合規(guī)服務(wù)。

據(jù)悉，在IDC近期發(fā)布的《2023中國公有云托管安全服務(wù)能力報(bào)告》中，亞馬遜云科技是獲得滿分最多的廠商之一，其中“生態(tài)建設(shè)”評估維度是唯一一家獲得滿分的廠商。

小結(jié)

誠如代聞所言，生成式AI的大規(guī)模應(yīng)用為企業(yè)帶來了巨大的機(jī)遇，但也伴隨著安全挑戰(zhàn)。通過深入了解并采取全面地安全措施，企業(yè)可以在這一領(lǐng)域取得成功，并為未來的AI應(yīng)用打下堅(jiān)實(shí)的安全基礎(chǔ)。企業(yè)網(wǎng)D1Net期待在AI安全領(lǐng)域看到更多的創(chuàng)新和進(jìn)步，以確保包括大模型在內(nèi)的AI技術(shù)能夠持續(xù)為企業(yè)帶來更大的價(jià)值。

最后，代聞強(qiáng)調(diào)：“安全始終是亞馬遜云科技的首要任務(wù)，是我們的首要優(yōu)先級。希望大家能夠?qū)踩暈槲覀児餐氖滓獌?yōu)先級，一同構(gòu)建一個(gè)安全、智能的未來。”

關(guān)于企業(yè)網(wǎng)D1net(r5u5c.cn)：

國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。