人工智能發(fā)展現(xiàn)狀

綜合來看，人工智能目前呈現(xiàn)幾個發(fā)展特點。

一是各國政府高度重視，納入國家科技戰(zhàn)略核心。世界上的主要國家都高度重視人工智能發(fā)展。其中，美國和中國先后將人工智能提升為國家戰(zhàn)略，大力促進技術和產(chǎn)業(yè)發(fā)展;英國、日本、德國等憑借其在人工智能專項領域的技術優(yōu)勢推動人工智能發(fā)展，如英國和日本以機器人領域技術為突破點，德國以“工業(yè)4.0”為契機推進人工智能發(fā)展。

二是學術研究方興未艾，科技成果爆發(fā)式增長。近幾年，人工智能學術研究成果突飛猛進，為人工智能的發(fā)展奠定了良好的基礎。人工智能論文數(shù)量和專利申請數(shù)均呈爆炸式增長，其中，中國2016年提及“深度學習”和“深度神經(jīng)網(wǎng)絡”的重要論文接近600篇，是2013年的12倍，已穩(wěn)居全球首位; 2016年，中國專利年申請數(shù)為29023項，較2001年增長了40倍左右。

三是產(chǎn)業(yè)格局正在形成，科技巨頭引領人工智能發(fā)展。在產(chǎn)業(yè)界，科技巨頭在人工智能產(chǎn)業(yè)環(huán)節(jié)積極卡位布局。IBM圍繞Watson在芯片、計算平臺、行業(yè)解決方案和應用場景等進行全面產(chǎn)業(yè)布局;谷歌憑借TensorFlow平臺在智能家居、自動駕駛等重點領域布局;國內(nèi)以BAT為代表的科技企業(yè)，基于現(xiàn)有技術優(yōu)勢和產(chǎn)品特點，加速構(gòu)建差異化的產(chǎn)業(yè)生態(tài)，成為國內(nèi)人工智能領域領跑者。

人工智能發(fā)展趨勢

一是行業(yè)應用潛力巨大，“AI ”將成未來風向標。“AI ”是“互聯(lián)網(wǎng) ”的延續(xù)和升級，推動傳統(tǒng)行業(yè)向自動化和智能化轉(zhuǎn)型。目前人工智能在工業(yè)、金融、交通、醫(yī)療、保險、安防等領域應用潛力巨大，未來“AI ”將催生更多新業(yè)態(tài)，開拓更廣闊的市場空間。據(jù)麥肯錫預計，到2025年，人工智能應用市場總值將達到1270億美元。

二是創(chuàng)業(yè)投資漸趨理性，重新審視人工智能商業(yè)價值。人工智能投資正趨于理性，投資人更關注人工智能的商業(yè)和應用價值。《2017年中國人工智能產(chǎn)業(yè)數(shù)據(jù)報告》指出，人工智能領域投融資種子天使輪比重逐年下降，投資階段有后移趨勢?？梢灶A見，隨著學術研究向產(chǎn)業(yè)應用轉(zhuǎn)化的趨勢越發(fā)明顯，商業(yè)應用需求將是未來推動人工智能產(chǎn)業(yè)發(fā)展的主要因素。

三是認知智能尚未成熟，亟待新一輪技術革命。當前人工智能主要是依托數(shù)據(jù)驅(qū)動的感知智能，發(fā)展受限于算法效率和硬件性能等因素：一方面，深度學習算法嚴重依賴海量數(shù)據(jù)和超強算力，且存在不可解釋性;另一方面，隨著摩爾定律的失效，支持人工智能發(fā)展的硬件性能呈指數(shù)增長將不可持續(xù)。因此，依托深度學習的人工智能未來可能會遭遇發(fā)展瓶頸，以遷移學習、類腦學習等為代表的認知智能研究越發(fā)重要。

人工智能帶來的安全風險

一是人工智能可提升網(wǎng)絡攻擊效率，威脅網(wǎng)絡空間安全。人工智能技術用于網(wǎng)絡攻擊時，其自我學習能力和自組織能力可用于智能查找漏洞和識別關鍵目標，提高攻擊效率。例如，集成人工智能的惡意軟件可自動瞄準更具吸引力的目標，劫持工業(yè)設備、勒索贖金等犯罪將越來越常見，傳統(tǒng)網(wǎng)絡安全體系遭受威脅。

二是人工智能可加劇個人信息泄露，威脅個人隱私安全。人工智能技術的應用增強了個人信息采集和個人數(shù)據(jù)挖掘能力，加大了隱私泄露風險。例如，基于指紋、人臉、虹膜等生物特征識別的智能系統(tǒng)會采集和掌握大量用戶隱私，人工智能系統(tǒng)則可根據(jù)其采集到的數(shù)據(jù)進行再學習和再推理，得到更多與用戶隱私相關的信息，甚至可能導致數(shù)據(jù)匿名化等安全保護措施無效。

三是人工智能系統(tǒng)尚存在決策偏差，威脅人身安全。人工智能系統(tǒng)(特別是高度自治的系統(tǒng))具備一定的決策和行動能力，一旦出現(xiàn)感知、認知偏差或者受到網(wǎng)絡攻擊，系統(tǒng)就可能判斷失誤，進而采取錯誤行動，甚至危及人身安全。例如，今年3月，優(yōu)步自動駕駛汽車在美國亞利桑那州造成行人死亡的案例就是此類安全威脅的明證。

四是人工智能可替代傳統(tǒng)行業(yè)工種，威脅社會就業(yè)安全。人工智能應用會促進產(chǎn)業(yè)升級，引發(fā)結(jié)構(gòu)性失業(yè)，例如，無人駕駛代替?zhèn)鹘y(tǒng)司機，無人超市替代收銀員和導購員，未來警察機器人替代交警等。據(jù)Forrester Research預測，人工智能技術將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統(tǒng)取代。在新的社會分工建立之前，人工智能對就業(yè)的沖擊可能引發(fā)社會安全風險。

人工智能安全應對建議

一是加強技術應用研究，提升網(wǎng)絡空間安全防御能力。人工智能技術對于網(wǎng)絡空間安全是一柄“雙刃劍”，既可增強網(wǎng)絡攻擊能力，也可提升安全防御能力。應積極引導和推動研究機構(gòu)和網(wǎng)絡安全公司，加強人工智能技術在網(wǎng)絡安全防護領域的應用研究，構(gòu)建基于人工智能的網(wǎng)絡攻防演練平臺，研發(fā)成熟的人工智能網(wǎng)絡安全產(chǎn)品，涵蓋漏洞掃描、入侵檢測、態(tài)勢感知、攻擊預警以及應急處置等多類型應用，提升網(wǎng)絡安全防護的自動化和智能化水平。

二是立法和技術研究并重，促進個人隱私安全管理。在大數(shù)據(jù)和人工智能時代，隱私保護應從立法監(jiān)管和技術能力提升兩方面入手：一方面，針對我國個人信息保護法律條款分散、不成體系的現(xiàn)狀，加快統(tǒng)一立法，特別是明確企業(yè)收集用戶信息的原則、程序、保密和保護義務以及不當使用、數(shù)據(jù)泄露等相關責任;另一方面，加強新技術在個人隱私保護方面的應用，例如，區(qū)塊鏈技術具備加密、信任、點對點、難篡改等特征，可加強用戶對個人隱私數(shù)據(jù)的掌控，防止數(shù)據(jù)在網(wǎng)絡傳輸和后臺存儲環(huán)節(jié)的泄露。

三是強化人工智能應用安全，規(guī)避人身安全風險。要加強人工智能技術研究，提升核心算法和學習模型的成熟度，增強人工智能感知、認知能力和決策的透明度與可解釋性，保障智能應用決策行動的健壯性;應主動構(gòu)建人工智能應用安全評估評測體系，制定評估評測標準，建設人工智能應用安全測試驗證平臺，通過檢驗測試發(fā)掘人工智能系統(tǒng)安全漏洞，提升人工智能應用的安全可靠性，努力規(guī)避人身安全風險。

四是優(yōu)化學科專業(yè)設置和在職培訓，降低社會失業(yè)風險。面向人工智能產(chǎn)業(yè)發(fā)展引發(fā)的社會就業(yè)變革，應動態(tài)調(diào)整高校、職業(yè)學校等專業(yè)設置，增設人工智能相關交叉類學科，逐步降低乃至取消人工智能可替代職業(yè)的招生名額;應引導在崗人員樹立終身學習理念，完善在職培訓和再就業(yè)培訓體系，通過培訓革新在崗人員就業(yè)技能，大力培育智能經(jīng)濟新崗位，最大限度降低人員失業(yè)引發(fā)的社會安全風險。