IBM認知解決方案高級副總裁David Kenny表示,“IBM曾經(jīng)確立了開發(fā)新型人工智能技術(shù)的信任和透明度原則?,F(xiàn)在是將這些原則付諸實現(xiàn)的時候了。任何可能有缺陷的決策都會給使用人工智能的企業(yè)帶來極大的潛在風(fēng)險,而我們?yōu)槠髽I(yè)提供了加強透明度和控制的方法。”
這些技術(shù)的發(fā)展也同樣印證IBM研究院的最新研究結(jié)果,該研究顯示,雖然有82%的企業(yè)正在考慮運用人工智能,但有60%的企業(yè)擔(dān)心責(zé)任問題,63%的企業(yè)缺乏能夠可靠地管理這種技術(shù)的內(nèi)部人才。
提高人工智能決策的可見度
在IBM云端運算平臺上的全新信任和透明度功能,可與各種機器學(xué)習(xí)框架和人工智能建構(gòu)的環(huán)境模型配合使用,例如Watson,Tensorflow,SparkML,AWS SageMaker和AzureML。也就是說,企業(yè)可以將這些新的控制工具用于大部分常見的人工智能框架。還可以對軟件服務(wù)進行編碼,以監(jiān)控任何業(yè)務(wù)工作流程所需的獨特決策因素,使其能根據(jù)特定的組織用途進行客制化。
這種完全自動化的軟件服務(wù)能夠解釋決策并在運行時(也就是進行決策時)檢測人工智能模型中的偏差,每當(dāng)潛在的不公結(jié)果出現(xiàn)時就會立即發(fā)現(xiàn)。重要的是,它還能自動建議應(yīng)添加到模型的數(shù)據(jù),幫助緩解它檢測到的任何偏差。
它使用通俗易懂的術(shù)語提供解釋,說明是哪些因素的權(quán)重使決策朝某一方向傾斜,決策建議的可信度有多大,以及可信度背后的因素。此外,模型的準確性、性能和公正性以及人工智能系統(tǒng)譜系的紀錄可以根據(jù)客戶服務(wù)、法規(guī)或合規(guī)用途,例如GDPR合規(guī),輕松地追蹤和回顧。
所有這些功能都是透過可視化操作面板來存取,讓企業(yè)客戶擁有前所未有的理解、解釋和管理人工智能主導(dǎo)決策的能力,并降低對專業(yè)人工智能技能的依賴。
使開源社群能夠建構(gòu)更公正的人工智能
此外,IBM研究院還將提供開源社群 AI Fairness 360工具包,這是一套包括新型算法、程序代碼和教程的資源庫,它將為學(xué)術(shù)單位、研究者和數(shù)據(jù)科學(xué)家提供在建構(gòu)和部署機器學(xué)習(xí)模型時整合偏差檢測功能的工具和知識。開源社群中的其他資源僅僅著眼于檢查訓(xùn)練數(shù)據(jù)中的偏差,而IBM研究院建立的IBM AI Fairness 360工具包將有助于檢查和緩解人工智能模型中的偏差。IBM研究院借助這一工具包,廣邀全球開源社群合作推動人工智能的相關(guān)研究,降低解決人工智能偏差的困難度。
研究揭示了人工智能部署主流化的優(yōu)先項目和障礙
IBM最近發(fā)布了IBM研究院2018人工智能報告,這份對5,000名企業(yè)高管的調(diào)研結(jié)果顯示,對于人工智能推動商業(yè)價值和收入成長的潛力,企業(yè)領(lǐng)導(dǎo)者的看法正在發(fā)生重大變化。
報告中的重要發(fā)現(xiàn):
82%的企業(yè)和93%的高績效企業(yè)正在考慮推廣人工智能應(yīng)用,重點是增加收入。
60%的企業(yè)擔(dān)心責(zé)任問題,63%的企業(yè)缺乏能夠可靠地管理人工智能技術(shù)的人才。
首席執(zhí)行官認為在IT、信息安全、創(chuàng)新、客戶服務(wù)和風(fēng)險管理方面采用人工智能可以獲得最大的價值。
人工智能的應(yīng)用范圍正在擴大,在金融服務(wù)等數(shù)字轉(zhuǎn)型程度較高的行業(yè)很可能會加速推廣。