在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能偏見(jiàn)難以消除 如何解決人工智能系統(tǒng)的公平性問(wèn)題

454398 ? 來(lái)源:賢集網(wǎng) ? 作者:賢集網(wǎng) ? 2021-02-26 12:08 ? 次閱讀

許多行業(yè)正轉(zhuǎn)向機(jī)器學(xué)習(xí)人工智能AI)技術(shù)來(lái)審查大量數(shù)據(jù),這并不奇怪。無(wú)論是分析財(cái)務(wù)記錄,檢查一個(gè)人是否有資格獲得貸款或法律合同中的錯(cuò)誤,還是確定一個(gè)人是否患有精神分裂癥;人工智能讓你得到了保障!然而,這完全是萬(wàn)無(wú)一失的還是不偏不倚的?這種現(xiàn)代科技能像人類一樣容易產(chǎn)生偏見(jiàn)嗎?

偏差風(fēng)險(xiǎn)因業(yè)務(wù)、行業(yè)和組織而異。他們可以通過(guò)多種方式進(jìn)入人工智能系統(tǒng)。例如,它可以被有意地通過(guò)隱形攻擊引入人工智能系統(tǒng),也可以被無(wú)意地引入到人工智能系統(tǒng)中,這樣就很難被人看到或發(fā)現(xiàn)。這也可能是由于人類輸入了反映他們有偏見(jiàn)思維的已經(jīng)有偏見(jiàn)的數(shù)據(jù),或者是由于數(shù)據(jù)采樣的偏見(jiàn)。當(dāng)訓(xùn)練數(shù)據(jù)中缺少某些類別時(shí),我們也會(huì)出現(xiàn)長(zhǎng)尾偏差。

很明顯,數(shù)據(jù)中的偏差會(huì)導(dǎo)致人工智能模型產(chǎn)生偏差,但更危險(xiǎn)的是,模型實(shí)際上會(huì)放大偏差。例如,一個(gè)研究小組發(fā)現(xiàn)67%的做飯的人是女性,但該算法將84%的廚師標(biāo)記為女性。深度學(xué)習(xí)(另一種人工智能技術(shù))算法正越來(lái)越多地被用于做出影響生活的決定,比如招聘員工、刑事司法系統(tǒng)和健康診斷。在這些場(chǎng)景中,如果算法由于AI偏差而做出錯(cuò)誤的決策,那么從長(zhǎng)遠(yuǎn)來(lái)看,結(jié)果將是毀滅性的。

例如,2016年,一家非盈利新聞機(jī)構(gòu)Pro Publica公司對(duì)由人工智能COMPAS支持的風(fēng)險(xiǎn)評(píng)估軟件進(jìn)行了批判性分析。COMPAS被用來(lái)預(yù)測(cè)一個(gè)囚犯或被指控的罪犯如果被釋放的話會(huì)犯下更多罪行的可能性。據(jù)觀察,黑人被告(錯(cuò)誤率為45%)的假陽(yáng)性率(標(biāo)記為“高風(fēng)險(xiǎn)”,但沒(méi)有再次犯罪)幾乎是白人被告(錯(cuò)誤率為24%)的兩倍。除此之外,由于種族、性別和種族的原因,人工智能工具還存在多個(gè)錯(cuò)誤分類/錯(cuò)誤標(biāo)記/錯(cuò)誤識(shí)別的例子。就像在同一年美女.AI該網(wǎng)站聘請(qǐng)人工智能機(jī)器人擔(dān)任選美比賽的評(píng)委,發(fā)現(xiàn)淺膚色的人比深色皮膚的人更具吸引力。

重要的是要揭示無(wú)意中的人工智能偏見(jiàn),使技術(shù)工具與商業(yè)領(lǐng)域的多樣性、公平性和包容性政策和價(jià)值觀保持一致。根據(jù)普華永道2020年的人工智能預(yù)測(cè),68%的組織仍然需要解決他們開(kāi)發(fā)和部署的人工智能系統(tǒng)的公平性問(wèn)題。

通常,機(jī)器學(xué)習(xí)、深度學(xué)習(xí)模型通常分為三個(gè)階段:訓(xùn)練、驗(yàn)證和測(cè)試。盡管在數(shù)據(jù)收集之前以及在深度學(xué)習(xí)過(guò)程的許多其他階段,偏見(jiàn)會(huì)潛移默化,但偏見(jiàn)在訓(xùn)練階段會(huì)影響模型本身。一般來(lái)說(shuō),線性回歸、線性判別分析和logistic回歸等參數(shù)算法容易產(chǎn)生高偏差。隨著人工智能系統(tǒng)越來(lái)越依賴于深度學(xué)習(xí)和機(jī)器學(xué)習(xí),由于它們的有用性,解決人工智能偏見(jiàn)可能會(huì)變得更加棘手。

雖然偏見(jiàn)正在加速解決,但關(guān)鍵的挑戰(zhàn)在于界定偏見(jiàn)本身。這是因?yàn)閷?duì)一個(gè)開(kāi)發(fā)人員或數(shù)據(jù)科學(xué)家來(lái)說(shuō)聽(tīng)起來(lái)有偏見(jiàn)的東西可能并不意味著對(duì)另一個(gè)的偏見(jiàn)。另一個(gè)問(wèn)題是“公平”應(yīng)該遵循什么準(zhǔn)則——在人工智能模型中是否有任何技術(shù)方法來(lái)定義公平?另外,需要注意的是,不同的解釋會(huì)造成混亂,不能每次都滿意。此外,確定數(shù)據(jù)集中不同子組的錯(cuò)誤率和準(zhǔn)確度是至關(guān)重要的。接下來(lái),數(shù)據(jù)科學(xué)家需要考慮社會(huì)背景。如果一個(gè)機(jī)器學(xué)習(xí)模型在刑事司法場(chǎng)景中完美地工作,它并不意味著它將適合于篩選求職者。因此社會(huì)背景很重要!

毫無(wú)疑問(wèn),選擇多樣化的數(shù)據(jù)可以減輕人工智能的偏見(jiàn),通過(guò)為更多的數(shù)據(jù)接觸點(diǎn)和指標(biāo)提供空間來(lái)迎合不同的優(yōu)先級(jí)和見(jiàn)解,這是不夠的。同時(shí),特定群體的代理的存在,使得很難建立一個(gè)深刻的學(xué)習(xí)或任何其他人工智能模型,知道所有潛在的偏見(jiàn)來(lái)源。

最后,并非所有人工籌碼偏見(jiàn)都有負(fù)面影響。在這種情況下,可解釋人工智能(XAI)可以幫助辨別模型是使用好偏差還是壞偏差來(lái)做出決策。它還告訴我們?cè)谀P妥龀鋈魏螞Q策時(shí)哪些因素更重要。雖然它不會(huì)消除偏見(jiàn),但它肯定能讓人類用戶理解、適當(dāng)信任和有效管理人工智能系統(tǒng)。

編輯:hfy

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1804

    文章

    48788

    瀏覽量

    247034
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8493

    瀏覽量

    134179
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    開(kāi)售RK3576 高性能人工智能主板

    ,HDMI-4K 輸出,支 持千兆以太網(wǎng),WiFi,USB 擴(kuò)展/重力感應(yīng)/RS232/RS485/IO 擴(kuò)展/I2C 擴(kuò)展/MIPI 攝像頭/紅外遙控 器等功能,豐富的接口,一個(gè)全新八核擁有超強(qiáng)性能的人工智能
    發(fā)表于 04-23 10:55

    AI人工智能隱私保護(hù)怎么樣

    在當(dāng)今科技飛速發(fā)展的時(shí)代,AI人工智能已經(jīng)深入到我們生活的方方面面,從醫(yī)療診斷到交通調(diào)度,從教育輔助到娛樂(lè)互動(dòng),其影響力無(wú)處不在。然而,隨著AI人工智能的廣泛應(yīng)用,其安全性問(wèn)題也備受關(guān)注。那么,AI
    的頭像 發(fā)表于 03-11 09:46 ?326次閱讀
    AI<b class='flag-5'>人工智能</b>隱私保護(hù)怎么樣

    代理型人工智能:定義與解析

    人工智能有潛力革新諸多行業(yè)。但其高度的自主性伴隨著重大的責(zé)任——以及潛在的倫理困境。確保自主導(dǎo)向系統(tǒng)中的責(zé)任性、公平性和安全性是建立對(duì)這些技術(shù)的信任和可靠性的核心所在。 Keeley Crockett是IEEE會(huì)員以及《IEEE
    的頭像 發(fā)表于 02-12 10:07 ?1001次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)是一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性和靈活性,能夠根據(jù)用戶需求進(jìn)行定制化設(shè)計(jì)。它
    發(fā)表于 11-14 16:39

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    、優(yōu)化等方面的應(yīng)用有了更清晰的認(rèn)識(shí)。特別是書(shū)中提到的基于大數(shù)據(jù)和機(jī)器學(xué)習(xí)的能源管理系統(tǒng),通過(guò)實(shí)時(shí)監(jiān)測(cè)和分析能源數(shù)據(jù),實(shí)現(xiàn)了能源的高效利用和智能化管理。 其次,第6章通過(guò)多個(gè)案例展示了人工智能在能源科學(xué)中
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    很幸運(yùn)社區(qū)給我一個(gè)閱讀此書(shū)的機(jī)會(huì),感謝平臺(tái)。 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章關(guān)于AI與生命科學(xué)的部分,為我們揭示了人工智能技術(shù)在生命科學(xué)領(lǐng)域中的廣泛應(yīng)用和深遠(yuǎn)影響。在
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    非常高興本周末收到一本新書(shū),也非常感謝平臺(tái)提供閱讀機(jī)會(huì)。 這是一本挺好的書(shū),包裝精美,內(nèi)容詳實(shí),干活滿滿。 關(guān)于《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章“AI
    發(fā)表于 10-14 09:16

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過(guò)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量數(shù)據(jù),發(fā)現(xiàn)傳統(tǒng)方法難以捕捉的模式和規(guī)律。這不僅極大地提高了數(shù)據(jù)處理
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    人工智能推薦系統(tǒng)中強(qiáng)大的圖形處理器(GPU)一爭(zhēng)高下。其獨(dú)特的設(shè)計(jì)使得該處理器在功耗受限的條件下仍能實(shí)現(xiàn)高性能的圖像處理任務(wù)。 Ceremorphic公司 :該公司開(kāi)發(fā)的分層學(xué)習(xí)處理器結(jié)合了
    發(fā)表于 09-28 11:00

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析 想問(wèn)下哪些比較容易學(xué) 不過(guò)好像都是要學(xué)的
    發(fā)表于 09-26 15:24

    人工智能ai4s試讀申請(qǐng)

    目前人工智能在繪畫(huà)對(duì)話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個(gè)需要研究的課題,本書(shū)對(duì)ai4s基本原理和原則,方法進(jìn)行描訴,有利于總結(jié)經(jīng)驗(yàn),擬按照要求準(zhǔn)備相關(guān)體會(huì)材料。看能否有助于入門(mén)和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    ! 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》 這本書(shū)便將為讀者徐徐展開(kāi)AI for Science的美麗圖景,與大家一起去了解: 人工智能究竟幫科學(xué)家做了什么? 人工智能將如何改變我們所生
    發(fā)表于 09-09 13:54

    報(bào)名開(kāi)啟!深圳(國(guó)際)通用人工智能大會(huì)將啟幕,國(guó)內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國(guó)際)通用人工智能大會(huì)暨深圳(國(guó)際)通用人工智能產(chǎn)業(yè)博覽會(huì)將在深圳國(guó)際會(huì)展中心(寶安)舉辦。大會(huì)以“魅力AI·無(wú)限未來(lái)”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門(mén)陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過(guò)程加速:FPGA可以用來(lái)加速深度學(xué)習(xí)的訓(xùn)練和推理過(guò)程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    人工智能概述

    人工智能關(guān)鍵技術(shù)概述
    發(fā)表于 07-17 17:17 ?0次下載
    主站蜘蛛池模板: 性欧美视频在线观看 | 久久国产精品久久久久久久久久 | 美女扒开尿囗给男生桶爽 | 一区二区三区在线看 | 好紧好爽太大了h视频 | 亚洲午夜网 | 亚洲 欧美 自拍 卡通 综合 | 午夜嘿嘿| 欧美精品一级 | 美女视频一区二区三区 | 久久久噜噜噜久久久午夜 | 久久精品视频9 | 黄色xxxx| 日本三级最新中文字幕电影 | 69日本人xxxx16-18 | 四虎国产欧美成人影院 | 久久亚洲综合中文字幕 | 国产亚洲欧美日本一二三本道 | 久久精品国产免费高清 | 18视频免费网址在线观看 | 四虎国产精品高清在线观看 | xxxx曰本 | 亚洲视频免费一区 | 欧美三级一区二区三区 | 国产一级大片免费看 | 天天操好逼 | 亚洲 欧洲 另类 综合 自拍 | 大香线蕉97久久 | 日本黄色电影在线 | 天天综合五月天 | 井野雏田小樱天天被调教 | 天天艹天天| 国产尤物在线视频 | 亚洲一区在线观看视频 | 4虎影视国产在线观看精品 4虎影院永久地址www | 二区在线播放 | 激情深爱五月 | 热久久综合这里只有精品电影 | 欧美另类高清xxxxx | 亚洲成a人片8888kkkk | 亚洲天天看 |