在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI系統存在巨大缺陷 看圖識物比不上人類幼兒

羅欣 ? 來源:Quanta Magazine ? 作者:佚名 ? 2018-10-11 14:25 ? 次閱讀

人類,1分;AI,0分。

上個月,來自約克大學和多倫多大學的兩名研究人員合作發表了一篇論文:The Elephant in the Room,在學界引起巨大反響。通過實驗,他們發現現有人工智能系統還存在巨大缺陷,它們在“看圖識物”這類視覺任務上的表現甚至還比不上人類幼兒。

看罷這篇論文,加里·馬庫斯表達了對研究人員的贊許:“這是一篇聰明而重要的論文,它提醒我們所謂的‘深度學習’還沒有那么‘深刻’。”他是紐約大學的認知心理學教授,也是優步(Uber)人工智能實驗室的負責人。

這項成果出現在計算機視覺領域,論文設計的任務很常規:訓練一個機器學習系統,讓它學會檢測和分類圖像中的對象。隨著自動駕駛汽車離真正落地越來越近,學界對機器的視覺處理技術一直寄予厚望。為了保障安全,計算機必須能從一幅街景圖中準確分辨哪個是鳥,哪個是自行車,即便達不到超人水平,它們至少也應該和被替代的人眼一樣好用。

但是,這個任務并不簡單,它突出了人類視覺的復雜性——以及構建模仿系統的高難度。在這項研究中,研究人員首先展示了一個能檢測、識別客廳場景下物品的計算機視覺系統,它的性能很不錯,能發現客廳里有一把椅子、一個人和書架上的書。之后,他們在同一幅圖中加入了一個異常物體——一只大象,這時系統卻“指鹿為馬”了,它開始把椅子稱為沙發,把大象稱為椅子,還忽視了之前能“看”到的其他物品。

對此,論文作者之一Amir Rosenfeld認為:“這些奇怪現象的出現,表明了目前的物體檢測系統是多么脆弱。”他們沒能在論文中解釋為什么會出現這種脆弱,但提出了一個破有見地的猜想:

這和人類具備,而AI沒有的一項能力有關——人類在看圖識物時能理解圖像中是否存在令人困惑的東西,從而讓自己去看第二眼。

房間里的大象

人類視覺和機器視覺很不一樣。

當我們睜開雙眼時,眼球開始收集大量視覺信息,并把它們輸送給大腦快速處理,這時我們知道天是藍的,草是綠的,萬物在不斷生長。

相比之下,機器在生成“視覺”上更費力。它們看待事物的方式類似用盲文閱讀,其中圖像的像素就是“文字”,通過在像素上運行各類算法,機器最終能生成關于目標物體的越來越復雜的表達形式。運行這一復雜過程的系統是神經網絡,它由許多“層”構成。

輸入一幅圖像后,神經網絡會逐層提取圖像中的細節,比如各個像素的顏色和亮度,層數越深,它提取到的特征就越抽象。在過程結束時,它會對根據這些特征對其正在觀察的內容輸出最佳預測。

這個過程意味著相比人類,神經網絡能把握更多人眼難辨的細節。事實上,現在基于神經網絡的系統已經在許多視覺處理任務上超越人類,比如依據品種對狗進行分類。這些成功應用提高了人們對技術的期待,研究人員也開始著手研究,看計算機視覺系統是否能幫助汽車快速通過擁擠的街道。

但是,這項技術的成功也激勵了一批人去探索它的脆弱性,比如近幾年非常流行的“對抗樣本”。通過在原圖上做一些肉眼幾乎看不到的擾動,新圖像就能欺騙人工智能系統,讓它把“虎斑貓”分類成“鱷梨醬”,把3D打印的“烏龜”分類為“步槍”。這些研究不是杞人憂天,試想一下,如果有人惡意在道路標志上添加了這種擾動,致使自動駕駛汽車誤讀、漏讀路標,那車上乘客的生命安全該如何保障?

論文中的研究具有相同的精神。研究人員向機器展示了一個普通的客廳生活場景:一名男子正坐在破舊椅子邊緣,前傾身體,聚精會神地玩著游戲。如下圖所示,在“思考”片刻后,神經網絡正確檢測到了一系列物體:椅子、手提包、杯子、筆記本電腦、人、書籍、電視機、瓶子、時鐘

但是,當他們在場景中引入了一些不協調的東西——一只大象后,神經網絡就被新加入的像素迷惑了。如下圖所示,在幾次試驗中,神經網絡開始把大象識別為椅子,把椅子識別為沙發,它也忽略了靠近大象一側的一排書。即便是離大象較遠的物體,系統也存在錯漏情況。

這個發現之所以令學界震驚,是因為實驗展示的是現在最基礎、最通行的物體檢測技術,雖然客廳內突然出現一頭大象并不現實,但公路上出現一只火雞確實可能的。現實道路上會發生很多意料之外的事,根據論文結果,我們有理由懷疑,自動駕駛汽車會因為路邊突然出現的一只火雞,而無法檢測到車前的行人。

正如羅恩菲爾德說的:“如果房間里真的有一頭大象,那你肯定會注意到它,但這個系統卻甚至沒能檢測到它的存在。”

萬事皆有因果

當人類看到意想不到的東西時,我們會先愣一下,然后才恍然大悟。這是一個具有真實認知意義的常見現象——它恰好揭示了為什么神經網絡無法處理“怪異”場景。

現如今,最先進的物體檢測神經網絡還是以“前饋”的方式工作,這意味著信息流經神經網絡時是單向的,從輸入細粒度像素開始,到檢測曲線、檢測形狀、檢測場景,再到最后輸出最佳預測。為了確保預測的準確性,它必須在整個過程中不斷收集“有用”信息,但這種單向性也意味著如果早期信息存在某種錯誤,那這些錯誤就會污染預測結果。

論文作者之一Tsotsos表示:“從神經網絡頂部開始,我們確實可以探索和結果相關的一切內容,但我們也有可能讓每個位置的每個特征都對每一個可能的輸出作出干擾。”

舉一個大家都理解的例子。假設圖中有一個圓和一個正方形,它們顏色各異,一個是紅的,一個是藍的。現在要求你在短時間內觀察圖片,并迅速答出正方形是什么顏色的。如果注意力夠集中,我們可能一瞥就能給出答案;如果有些頭昏腦脹,我們可能看了一眼后還會有點迷惑,然后自然而然地會去重新看一遍。而且當我們看第二遍時,注意力是高度集中在觀察正方形顏色上的。

簡而言之,人類的視覺系統如果沒有獲得想要的答案,它會回頭看看自己在哪里犯了錯。而這個過程可以用1990年《Behavioral and Brain Sciences》一篇論文中提到的概念——選擇性調整模型(ST)來解釋。如上圖所示,那篇論文假設視覺處理架構在結構上是金字塔形的,該網絡內的節點接收前饋和反饋連接。當刺激輸入視覺系統時,首先它會以前饋的方式激活與其連接的金字塔內的所有節點;之后,輸出的結果再以反饋的方式重新回到之前的節點中,激活倒置子金字塔。

這個模型的優勢在于人類能依靠前饋和反饋,選擇感興趣的時空區域,選擇與當前任務相關的事物并選擇最佳視點,同時,我們也能通過修剪不相關的內容來限制任務相關的搜索空間,只考慮之前有過提示信息的位置,用位置/特征信息抑制感受野中的干擾,更簡單、高效的獲取最佳結果。

而大多數神經網絡缺乏這種反饋能力,這也是科研人員一直無法有所突破的研究難點。現在使用前饋網絡的一個優點是容易訓練——只需讓輸入通過一個6層神經網絡,但是,如果我們希望未來機器也能“先愣一下,然后才恍然大悟”,它們就必須理解什么時候該回頭看看,什么時候該簡單前饋。

人腦可以在這些過程之間無縫切換,但神經網絡還需要一個新的理論框架才能做同樣的事情。

就在本月,谷歌上線了一個對抗樣本挑戰Unrestricted Adversarial Examples Challenge,他們向社區征集參賽鳥/自行車分類器,要求參賽的“對抗者”可以在輸入有擾動的圖像后,依然準確分類鳥和自行車;而“攻擊者”的目標是生成一張包含鳥的圖像,讓“對抗者”分類器把它分類成自行車。這離構建選擇性調整模型還有不小距離,但這是通向解決問題的第一步——也是不可或缺的一步。

本文來源:Quanta Magazine

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4804

    瀏覽量

    102617
  • AI
    AI
    +關注

    關注

    87

    文章

    33973

    瀏覽量

    274872
  • 機器學習
    +關注

    關注

    66

    文章

    8487

    瀏覽量

    133975
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    Nordic nRF54 系列芯片:開啟 AI聯網新時代?

    在科技飛速發展的今天,芯片技術的創新始終是推動行業進步的關鍵力量。Nordic 公司的 nRF54 系列芯片,正以其卓越的性能和獨特的設計,為 AI 機器學習和聯網應用帶來前所未有的變革
    發表于 04-01 00:18

    名單公布!【書籍評測活動NO.57】芯片通課:一本書讀懂芯片技術

    聯系,視為放棄本次試用評測資格! Part.1 無處不在的芯片 自人類進入信息時代,從 PC 到互聯網,再到如今的 AI 大潮興起,無論應用形態如何變化,它們都是由小小的芯片支撐運行起來的。可以說,芯片
    發表于 02-17 15:43

    AI賦能邊緣網關:開啟智能時代的新藍海

    的引入徹底改變了這一局面。通過在邊緣網關集成AI芯片和算法模型,使其具備了實時數據分析、智能決策和自主控制能力。在工業質檢場景中,搭載AI算法的邊緣網關能夠實時識別產品缺陷,將檢測效率提升300%以上
    發表于 02-15 11:41

    有效抑制SiC外延片掉落缺陷生成的方法

    引言 碳化硅(SiC)作為第三代半導體材料,因其出色的物理和化學特性,在功率電子、高頻通信及高溫環境等領域展現出巨大的應用潛力。然而,在SiC外延生長過程中,掉落缺陷(如顆粒脫落、乳凸等)一直是
    的頭像 發表于 02-10 09:35 ?401次閱讀
    有效抑制SiC外延片掉落<b class='flag-5'>物</b><b class='flag-5'>缺陷</b>生成的方法

    名單公布!【書籍評測活動NO.55】AI Agent應用與項目實戰

    不需要人類持續干預的AI系統,它可以根據當前的環境和背景信息,去自主分析各種遇到的問題并做出合理的決策,比如幾年前打敗人類棋手李昌鎬的AlphaGo,它就是一個典型的
    發表于 01-13 11:04

    CAD快速看圖

    CAD快速看圖
    發表于 01-07 13:44 ?4次下載

    馬斯克預言:AI將全面超越人類智力

    近日,科技巨頭馬斯克作出了一個關于人工智能(AI)的大膽預測。他斷言,AI的發展速度將超乎人類的想象,并將在不久的將來全面超越人類的智力。 馬斯克在X平臺上明確表示,
    的頭像 發表于 12-28 14:23 ?624次閱讀

    基于缺陷生成路徑的AI質檢新范式

    在全球化的制造業格局中,產品質量問題一直是懸在企業頭頂的一把達摩克利斯之劍。特別是近年來,隨著消費者對產品質量的要求越來越高,任何微小的缺陷都可能引發大規模的產品召回,造成巨大的經濟損失和社會影響
    的頭像 發表于 11-15 01:05 ?759次閱讀
    基于<b class='flag-5'>缺陷</b>生成路徑的<b class='flag-5'>AI</b>質檢新范式

    莫拉維克悖論與多模態AI:邁向機器人認知的新時代

    莫拉維克悖論揭示了人工智能系統在處理高級推理與基本感知運動技能上的巨大差異。對于AI而言,復雜的邏輯任務似乎比人類習以為常的感知運動技能更容易實現。這一悖論凸顯了當前
    的頭像 發表于 10-26 15:00 ?1070次閱讀

    60G嬰幼兒呼吸心跳檢測專用雷達模塊 感應距離0.8-1.5米

    每年因呼吸道疾病死亡的新生兒高達200萬。主要原因是嬰幼兒的呼吸系統和免疫系統尚未沒有發育完全,抵抗力能力差,極容易感染呼吸道疾病。除此以外,嬰幼兒在睡眠時稍不注意,便容易發生俯臥、墜
    的頭像 發表于 09-28 08:09 ?735次閱讀
    60G嬰<b class='flag-5'>幼兒</b>呼吸心跳檢測專用雷達模塊 感應距離0.8-1.5米

    使用TI Edge AI Studio和AM62A進行基于視覺AI缺陷檢測

    電子發燒友網站提供《使用TI Edge AI Studio和AM62A進行基于視覺AI缺陷檢測.pdf》資料免費下載
    發表于 09-03 10:38 ?0次下載
    使用TI Edge <b class='flag-5'>AI</b> Studio和AM62A進行基于視覺<b class='flag-5'>AI</b>的<b class='flag-5'>缺陷</b>檢測

    基于鴻蒙Next模擬掃圖的一個過程

    一、功能介紹(基礎) 基于鴻蒙Next模擬掃圖的一個過程,掃描到圖片,提示出相關的圖片內容,是一個什么東西。 二、使用場景(大類) 支付、社交、信息獲取、在線調查、教育學習等等。 三、實現步驟
    發表于 08-21 15:04

    平衡創新與倫理:AI時代的隱私保護和算法公平

    機制,還包括了數據的來源、處理方式以及使用目的的明確披露。這樣不僅有助于監管機構進行審查,也讓普通用戶能夠理解AI系統的決策依據,從而減少因“黑箱操作”帶來的不信任和誤解。例如,在AI輔助醫療診斷中
    發表于 07-16 15:07

    基于AI深度學習的缺陷檢測系統

    在工業生產中,缺陷檢測是確保產品質量的關鍵環節。傳統的人工檢測方法不僅效率低下,且易受人為因素影響,導致誤檢和漏檢問題頻發。隨著人工智能技術的飛速發展,特別是深度學習技術的崛起,基于AI深度學習的缺陷檢測
    的頭像 發表于 07-08 10:30 ?2201次閱讀

    智謀紀 AI+Multi LED 打開人類健康新寶藏

    技術。 智謀紀創始人&CEO朱東亮先生受邀出席論壇,帶來題為《AI+ Multi LED,打開人類健康新寶藏》的專題演講。 演講精彩瞬間回顧:AI+ Multi LED,智謀紀AI照明
    的頭像 發表于 06-17 12:23 ?517次閱讀
    智謀紀 <b class='flag-5'>AI</b>+Multi LED 打開<b class='flag-5'>人類</b>健康新寶藏
    主站蜘蛛池模板: 亚洲影视自拍揄拍愉拍 | 四虎最新紧急入口4hu | 免费国产成高清人在线视频 | 五月天婷婷在线免费观看 | 深夜释放自己vlog糖心旧版本 | 午夜88| 国产精品第9页 | 2019天天干天天操 | 亚洲午夜视频在线观看 | 欧美区亚洲区 | 免费毛片软件 | 免费在线视频观看 | 亚洲第一区二区快射影院 | 四虎影院永久网址 | 狠狠操狠狠干 | 日本免费色视频 | 高h水果榨汁play男男 | 天天cao在线 | 国产亚洲精品久久久极品美女 | 四虎必出精品亚洲高清 | 免费在线a视频 | 亚洲人成综合网站在线 | 一级视频在线观看免费 | 欧美亚洲综合图区在线 | 亚洲精品美女视频 | 天天视频免费观看高清影视 | 91久久夜色精品国产网站 | 成年人看的毛片 | 日韩欧美高清色码 | 天天干夜干 | 女人张开腿男人桶 | 国内久久精品视频 | 国产午夜精品理论片在线 | 伊人不卡久久大香线蕉综合影院 | 亚洲成在人线影视天堂网 | 看亚洲a级一级毛片 | 免费一级在线观看 | 美人岛福利 | 国产精品毛片在线大全 | 日本欧美一区二区三区视频 | 性色在线视频精品 |