企業(yè)想將人工智能融入自己的事務，但又害怕駕馭不了。IBM公司日前推出了一種提高人工智能透明度的技術(shù)，使企業(yè)能夠更全面地駕馭人工智能的力量。這種在IBM云端運算平臺上執(zhí)行的軟件服務，能夠在人工智能進行決策時自動檢測偏差并解釋決策過程，進而幫助各行各業(yè)的組織管理人工智能系統(tǒng)。IBM服務事業(yè)部也將與企業(yè)合作，幫助他們運用這種全新的軟件服務。此外，IBM研究院將會向開源社群發(fā)布一套人工智能偏差檢測和緩解工具包，用先進的工具和培訓促進全球協(xié)作，以解決人工智能偏差問題。

IBM認知解決方案高級副總裁David Kenny表示，“IBM曾經(jīng)確立了開發(fā)新型人工智能技術(shù)的信任和透明度原則。現(xiàn)在是將這些原則付諸實現(xiàn)的時候了。任何可能有缺陷的決策都會給使用人工智能的企業(yè)帶來極大的潛在風險，而我們?yōu)槠髽I(yè)提供了加強透明度和控制的方法。”

這些技術(shù)的發(fā)展也同樣印證IBM研究院的最新研究結(jié)果，該研究顯示，雖然有82%的企業(yè)正在考慮運用人工智能，但有60%的企業(yè)擔心責任問題，63%的企業(yè)缺乏能夠可靠地管理這種技術(shù)的內(nèi)部人才。

提高人工智能決策的可見度

在IBM云端運算平臺上的全新信任和透明度功能，可與各種機器學習框架和人工智能建構(gòu)的環(huán)境模型配合使用，例如Watson，Tensorflow，SparkML，AWS SageMaker和AzureML。也就是說，企業(yè)可以將這些新的控制工具用于大部分常見的人工智能框架。還可以對軟件服務進行編碼，以監(jiān)控任何業(yè)務工作流程所需的獨特決策因素，使其能根據(jù)特定的組織用途進行客制化。

這種完全自動化的軟件服務能夠解釋決策并在運行時(也就是進行決策時)檢測人工智能模型中的偏差，每當潛在的不公結(jié)果出現(xiàn)時就會立即發(fā)現(xiàn)。重要的是，它還能自動建議應添加到模型的數(shù)據(jù)，幫助緩解它檢測到的任何偏差。

它使用通俗易懂的術(shù)語提供解釋，說明是哪些因素的權(quán)重使決策朝某一方向傾斜，決策建議的可信度有多大，以及可信度背后的因素。此外，模型的準確性、性能和公正性以及人工智能系統(tǒng)譜系的紀錄可以根據(jù)客戶服務、法規(guī)或合規(guī)用途，例如GDPR合規(guī)，輕松地追蹤和回顧。

所有這些功能都是透過可視化操作面板來存取，讓企業(yè)客戶擁有前所未有的理解、解釋和管理人工智能主導決策的能力，并降低對專業(yè)人工智能技能的依賴。

使開源社群能夠建構(gòu)更公正的人工智能

此外，IBM研究院還將提供開源社群 AI Fairness 360工具包，這是一套包括新型算法、程序代碼和教程的資源庫，它將為學術(shù)單位、研究者和數(shù)據(jù)科學家提供在建構(gòu)和部署機器學習模型時整合偏差檢測功能的工具和知識。開源社群中的其他資源僅僅著眼于檢查訓練數(shù)據(jù)中的偏差，而IBM研究院建立的IBM AI Fairness 360工具包將有助于檢查和緩解人工智能模型中的偏差。IBM研究院借助這一工具包，廣邀全球開源社群合作推動人工智能的相關(guān)研究，降低解決人工智能偏差的困難度。

研究揭示了人工智能部署主流化的優(yōu)先項目和障礙

IBM最近發(fā)布了IBM研究院2018人工智能報告，這份對5,000名企業(yè)高管的調(diào)研結(jié)果顯示，對于人工智能推動商業(yè)價值和收入成長的潛力，企業(yè)領(lǐng)導者的看法正在發(fā)生重大變化。

報告中的重要發(fā)現(xiàn)：

?82%的企業(yè)和93%的高績效企業(yè)正在考慮推廣人工智能應用，重點是增加收入。

?60%的企業(yè)擔心責任問題，63%的企業(yè)缺乏能夠可靠地管理人工智能技術(shù)的人才。

?首席執(zhí)行官認為在IT、信息安全、創(chuàng)新、客戶服務和風險管理方面采用人工智能可以獲得最大的價值。

?人工智能的應用范圍正在擴大，在金融服務等數(shù)字轉(zhuǎn)型程度較高的行業(yè)很可能會加速推廣。