在All in AI的口號中，人工智能儼然已經(jīng)成為當(dāng)代社會最受矚目的技術(shù)，各行各業(yè)都在積極的擁抱智能，隨著各類智能應(yīng)用功能的不斷落地，甚至在信息安全行業(yè)中，人工智能應(yīng)用也能獨占一頭，盡管如此，AI的蓬勃發(fā)展也為信息安全帶來巨大的挑戰(zhàn)，越來越多的安全隱患開始浮出水面。由于人工智能的思想、方法和理論都在信息安全領(lǐng)域中得到了大面積運用，且無論如何都繞不開信息采集、存儲、分析和傳播環(huán)節(jié)，其中自然存在大量的安全漏洞，因此，人工智能應(yīng)用的安全問題成為業(yè)界中避無可避的棘手事件。

五大屬性探究安全源頭

無論是傳統(tǒng)互聯(lián)網(wǎng)還是新一代物聯(lián)網(wǎng)、云計算抑或是大數(shù)據(jù)還是人工智能，信息安全的目標(biāo)就從未改變。中國科學(xué)院院士、中國人民解放軍技術(shù)安全研究所研究員鄭建華表示，要實現(xiàn)信息安全，就必須將“保密性”、“完整性”、“可用性”、“可控性”和“不可抵賴性”這五個基本屬性有機(jī)結(jié)合起來，確保對信息的使用和處理經(jīng)過所所有權(quán)人的授權(quán)，嚴(yán)格按照所有權(quán)人的要求，真實、順暢、合理的進(jìn)行。而這一切的前提是，必須經(jīng)過所有權(quán)人授權(quán)，對信息的使用要求是真實的，不經(jīng)過篡改或者偽造，且在使用過程中不讓信息系統(tǒng)癱瘓，能夠正常使用并對信息進(jìn)行有效管控，避免有害信息。

從信息采集、傳輸、存儲和管理以及處理和使用的過程中，能夠很直觀的知曉其中的安全隱患。包括信息采集的控制、傳輸過程的保密、信息存儲和管理的真實可靠等，都是需要避免的可能存在的安全隱患，而這些要求在云計算和云存儲中也是如此。

從技術(shù)體系剖析人工智能信息安全

有了云計算和大數(shù)據(jù)做支撐，人工智能來到了發(fā)展的紅利時期。與此同時，數(shù)據(jù)信息本身的安全考慮也貫穿到了人工智能應(yīng)用的整個過程。從技術(shù)層面上分析，人工智能大致可以分為以下幾層：

1. 感知層：各類傳感器采集信息的過程，要求程序員設(shè)定采集范圍和要求，保證信息采集的真實性和可靠性;

2. 傳輸層：采集過程進(jìn)行處理，反作用，靠的是基礎(chǔ)網(wǎng)絡(luò)，涉及到傳輸過程的安全防控;

3. 數(shù)據(jù)層：進(jìn)行數(shù)據(jù)匯聚，通過大量的數(shù)據(jù)分析和信息產(chǎn)生新的知識和價值;

4. 應(yīng)用層：服務(wù)和控制過程，一方面提供服務(wù)，對終端進(jìn)行控制，實現(xiàn)有機(jī)的循環(huán)回路;

以上四個層面，每一層都涉及安全問題，包括身份識別、傳輸和存儲中的數(shù)據(jù)保護(hù)、數(shù)據(jù)可控性、真實性、可溯源等。如果數(shù)據(jù)在傳輸或者存儲過程中被篡改，數(shù)據(jù)失真會導(dǎo)致一個嚴(yán)重的結(jié)果。因此必須得保證數(shù)據(jù)能夠有效匯聚，既要保護(hù)數(shù)據(jù)所得者的利益又要在可控范圍內(nèi)通過大數(shù)據(jù)的匯聚產(chǎn)生價值。中科院院士鄭建華表示，這其中的安全問題是當(dāng)下研究的重點，囊括了在應(yīng)用層的服務(wù)和控制過程。以下是人工智能應(yīng)用中的重點問題：

1. 身份識別和生物特征識別問題

目前從專業(yè)角度考慮，基于生物特征的識別技術(shù)尚不成熟。尤其是針對輕量級的移動便攜式設(shè)備，這些技術(shù)更加存在大量的不足。另一方面，生物識別技術(shù)目前依舊沒有建立一個安全的邏輯鏈條，很多技術(shù)都缺乏“從數(shù)據(jù)采集過程到傳輸使用，支持?jǐn)?shù)據(jù)回溯”的環(huán)節(jié)，這意味著后續(xù)的數(shù)據(jù)和前面的邏輯無法建立一個緊密的聯(lián)系，導(dǎo)致系統(tǒng)極其脆弱和不穩(wěn)定。

2. 移動安全

隨著移動互聯(lián)網(wǎng)的大量興起，市面上的各類智能應(yīng)用大多基于終端手機(jī)。相較而言，手機(jī)比PC機(jī)更為危險，作為一個消費類電子產(chǎn)品，手機(jī)使用便捷、成本低、更新快、安全隱患更多并且無法徹底解決。對于行業(yè)而言，建立手機(jī)端的安全體系難度更大。

3. 大數(shù)據(jù)安全

因為人工智能是數(shù)據(jù)驅(qū)動，大數(shù)據(jù)的安全比一般意義的云安全更為艱難。大數(shù)據(jù)安全問題主要集中在三點：加密的檢索、數(shù)據(jù)的完整性和安全的計算外包。由于安全模型的存在，云安全能夠直接加密服務(wù)器上的數(shù)據(jù)保證數(shù)據(jù)信息無法被管理者獲取，但大數(shù)據(jù)則要求在對數(shù)據(jù)進(jìn)行加密保護(hù)的同時又能有效進(jìn)行數(shù)據(jù)的融合利用，在一定限度內(nèi)實現(xiàn)信息共享，而這無疑是加大了技術(shù)難度。

4. 系統(tǒng)的脆弱性

現(xiàn)在的網(wǎng)絡(luò)攻防態(tài)勢極為嚴(yán)峻，大多攻擊主要是利用信息系統(tǒng)本身的不完善和脆弱性。系統(tǒng)脆弱性是當(dāng)下網(wǎng)絡(luò)安全最重要的問題，并且無法避免，關(guān)鍵在于如何發(fā)現(xiàn)這種脆弱性。當(dāng)企業(yè)規(guī)模過大時，要想保證系統(tǒng)安全，就需要耗費大量的人力、物理和財力，以更加精進(jìn)的技術(shù)手段維護(hù)系統(tǒng)的安全和穩(wěn)定，目前這一問題無法杜絕，只能早早防范。

人工智能應(yīng)用與信息系統(tǒng)安全

“一般而言，人工智能應(yīng)用的安全問題和原來的信息系統(tǒng)安全問題在很多地方都是一致的。當(dāng)然，它也提出了一系列新的問題，比如應(yīng)用層中的控制和服務(wù)，其他大體上還是共性問題。”隨著AI的不斷深入和延展，它的影響力將會與日俱增，后期，甚至能影響每一個人，因此頂層的安全設(shè)計是必不可少的。鄭建華認(rèn)為，在人工智能應(yīng)用的安全建設(shè)中，一方面需要政府主導(dǎo)，深入分析人工智能應(yīng)用建設(shè)中的安全需求，進(jìn)行頂層設(shè)計，提出安全原則，加強(qiáng)安全制度建設(shè)，尤其是安全準(zhǔn)入制度方面，提出監(jiān)測方法和機(jī)制。另一方面，企業(yè)也應(yīng)該從感知、傳輸、分析協(xié)同和服務(wù)控制等方面建立安全準(zhǔn)則。從政府和企業(yè)兩個角度完善熱弄更智能應(yīng)用的安全建設(shè)。

ps：本文根據(jù)鄭建華演講整理而成