在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

未來智能實驗室的開展,用于運行神經網絡的新的芯片的研究

mK5P_AItists ? 來源:未知 ? 作者:工程師郭婷 ? 2018-06-29 13:59 ? 次閱讀

GPU上運行的神經網絡已經在人工智能領域取得了一些驚人的進步,但這兩者的合作還并不完美。IBM的研究人員希望能設計出一種專門用于運行神經網絡的新的芯片,從而提供更快、更有效的替代方案。

直到本世紀初,研究人員才意識到,為視頻游戲設計的GPU(圖形處理單元)可以被用作硬件加速器,以運行比以前更大的神經網絡。

這要歸功于這些芯片能夠并行進行大量計算,而不是像傳統CPU那樣按順序處理它們。這對于同時計算構成深度學習神經網絡的數百個神經元的權重特別有用。

GPU的引入使這一領域得到了發展,但這些芯片仍然需要將處理和存儲分開,這意味著大量的時間和精力都花在了兩者之間的數據傳輸上。這促使人們開始研究新的存儲技術,這些技術能夠存儲和處理同一位置的權重數據,從而提高速度和能源效率。

這種新的存儲設備通過調整它們的電阻水平,以模擬的形式存儲數據——也就是說,數據被存儲在一個連續的范圍內,而不是數字存儲器的二進制1和0。因為信息存儲在存儲單元的電導中,所以可以簡單地在存儲單元間傳遞電壓并讓系統通過物理方法來進行計算。

但是這些設備固有的物理缺陷意味著它們的行為并不一致,這導致了目前使用它們來訓練神經網絡的分類精度明顯低于使用GPU。

“我們可以在一個比GPU更快的系統上進行訓練,但如果訓練操作不那么準確,那是沒有用的,”領導該項目的IBM Research博士后研究員Stefano Ambrogio在接受Singularity Hub采訪時說,“到目前為止,還沒有證據表明使用這些新設備能像使用GPU一樣精確?!?/p>

但研究又有了新的進展。發表在《自然》雜志上的一篇論文中,Ambrogio和他的同事們描述了他們是如何利用新興的模擬記憶和更傳統的電子元件組合來創造出一種芯片,這種芯片可以與GPU的精度相匹配,同時運行速度更快,能耗更少。

這些新的存儲技術難以訓練深層神經網絡的原因是,這個過程需要將每個神經元的權重進行上下數千次的刺激,直到網絡完全對齊。改變這些設備的電阻需要重新配置它們的原子結構,而且每次的操作過程都不一樣,Ambrogio說。這些刺激并不總是完全相同,這導致了對神經元權重的不精確的調整。

研究人員通過創造“突觸單元”來解決這個問題,這些“突觸單元”每一個都對應于網絡中的單個神經元,同時具有長期和短期記憶。每個單元格由一對相變存儲器(PCM)單元和三個晶體管以及一個電容的組合構成,PCM在電阻中存儲權重數據,電容將權重數據存儲為電荷。

PCM是一種“非易失性存儲器”,這意味著即使沒有外部電源,它也能保留存儲的信息,而電容器是“易失性的”,所以只能在幾毫秒內保持它的電荷。但是電容器沒有PCM設備的可變性,因此可以快速而準確地編程

當神經網絡對圖像進行訓練以完成分類任務時,只有電容器的權重會被更新。在瀏覽到幾千張圖片后,權重數據會被轉移到PCM單元進行長期存儲。PCM的可變性意味著,權重數據的轉移仍然有可能包含錯誤,但是由于該單元只是偶爾更新,所以可以在不增加系統復雜性的情況下再次檢查電導。Ambrogio說,如果直接在PCM單元上進行訓練,這就不可行了。

為了測試他們的設備,研究人員對他們的網絡進行了一系列流行圖像識別的基準測試,結果達到了與谷歌領先的神經網絡軟件TensorFlow相當的精確度。但重要的是,他們預測,最終構建出的芯片將比GPU的能效高280倍,而且在每平方毫米面積上實現的算力將達到CPU的100倍。值得注意的是,研究人員還沒有完全構建出這一芯片。

雖然在測試中使用了真正的PCM單元,但其它組件是在計算機上模擬的。Ambrogio表示,他們希望在投入時間和精力打造完整的芯片之前,先檢查一下這種方法是否可行。他說,他們決定使用真正的PCM設備,因為對這些設備的模擬還不太可靠,但其它組件的模擬技術已經很成熟了,他們有信心基于這個設計建立一個完整的芯片。

它目前也只能在全連接神經網絡上與GPU競爭,在這個神經網絡中,每個神經元都與上一層的神經元相連接,Ambrogio說。但實際上許多神經網絡并沒有完全連接,或者只有某些層完全連接在一起。

但Ambrogio說,最終的芯片將被設計成可以與GPU合作的形式,從而在處理其它連接時也能夠處理全連接層的計算。他還認為,這種處理全連接層的更有效的方法可以被更廣泛地應用。

這樣的專用芯片能夠使哪些事情成為可能?

Ambrogio說,有兩個主要的應用:一是將人工智能應用到個人設備上,二是使數據中心更加高效。后者是大型科技公司的一大擔憂,因為它們的服務器消耗了大量的電費。

如果直接在個人設備上應用人工智能,用戶就可以不必在云端分享他們的數據,從而增加隱私性,但Ambrogio說,更令人興奮的前景是人工智能的個性化。

他說:“在你的汽車或智能手機上應用這個神經網絡,它們就能夠不斷地從你的經驗中學習?!?/p>

“你的手機會專門針對你的聲音進行個性化,你的汽車也會根據你的習慣形成獨特的駕駛方式?!?/p>

未來智能實驗室是人工智能學家與科學院相關機構聯合成立的人工智能,互聯網和腦科學交叉研究機構。

未來智能實驗室的主要工作包括:建立AI智能系統智商評測體系,開展世界人工智能智商評測;開展互聯網(城市)云腦研究計劃,構建互聯網(城市)云腦技術和企業圖譜,為提升企業,行業與城市的智能水平服務。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    11057

    瀏覽量

    216353
  • 神經網絡
    +關注

    關注

    42

    文章

    4811

    瀏覽量

    103100
  • 人工智能
    +關注

    關注

    1805

    文章

    48859

    瀏覽量

    247611

原文標題:讓AI個性化而且功耗更低 IBM研發新型神經網絡芯片

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    神經網絡RAS在異步電機轉速估計中的仿真研究

    眾多方法中,由于其結構簡單,穩定性好廣泛受到人們的重視,且已被用于產品開發。但是MRAS仍存在在低速區速度估計精度下降和對電動機參數變化非常敏感的問題。本文利用神經網絡的特點,使估計更為簡單、快速
    發表于 06-16 21:54

    實驗室安全管理成焦點,漢威科技賦能實驗室安全升級

    實驗室是國家科技創新體系的重要組成部分,是國家組織高水平基礎研究和應用基礎研究、聚集和培養優秀科學家、開展學術交流的重要基地。近年來,各高校、研究
    的頭像 發表于 04-10 10:41 ?369次閱讀
    <b class='flag-5'>實驗室</b>安全管理成焦點,漢威科技賦能<b class='flag-5'>實驗室</b>安全升級

    基于光學衍射神經網絡的軌道角動量復用全息技術的設計與實驗研究

    隨著神經網絡的發展,光學神經網絡(ONN)的研究受到廣泛關注。研究人員從衍射光學、散射光、光干涉以及光學傅里葉變換等基礎理論出發,利用各種光學設備及材料成功實現了
    的頭像 發表于 12-07 17:39 ?2759次閱讀
    基于光學衍射<b class='flag-5'>神經網絡</b>的軌道角動量復用全息技術的設計與<b class='flag-5'>實驗</b><b class='flag-5'>研究</b>

    Moku人工神經網絡101

    不熟悉神經網絡的基礎知識,或者想了解神經網絡如何優化加速實驗研究,請繼續閱讀,探索基于深度學習的現代智能
    的頭像 發表于 11-01 08:06 ?614次閱讀
    Moku人工<b class='flag-5'>神經網絡</b>101

    BP神經網絡樣本的獲取方法

    的訓練樣本是至關重要的。 數據收集 數據收集是構建BP神經網絡模型的第一步。根據研究領域和應用場景的不同,數據來源可以分為以下幾種: 1.1 實驗數據:通過實驗或觀察獲得的數據,如生物
    的頭像 發表于 07-11 10:50 ?1003次閱讀

    BP神經網絡和人工神經網絡的區別

    BP神經網絡和人工神經網絡(Artificial Neural Networks,簡稱ANNs)之間的關系與區別,是神經網絡領域中一個基礎且重要的話題。本文將從定義、結構、算法、應用及未來
    的頭像 發表于 07-10 15:20 ?2177次閱讀

    rnn是遞歸神經網絡還是循環神經網絡

    RNN(Recurrent Neural Network)是循環神經網絡,而非遞歸神經網絡。循環神經網絡是一種具有時間序列特性的神經網絡,能夠處理序列數據,具有記憶功能。以下是關于循環
    的頭像 發表于 07-05 09:52 ?974次閱讀

    人工智能神經網絡的結構是什么

    人工智能神經網絡是一種模擬人腦神經網絡的計算模型,其結構和功能非常復雜。 引言 人工智能神經網絡是一種模擬人腦
    的頭像 發表于 07-04 09:37 ?1090次閱讀

    人工智能神經網絡芯片的介紹

    人工智能神經網絡芯片是一類專門為深度學習和神經網絡算法設計的處理器。它們具有高性能、低功耗、可擴展等特點,廣泛應用于圖像識別、語音識別、自然
    的頭像 發表于 07-04 09:33 ?1364次閱讀

    神經網絡芯片與傳統芯片的區別和聯系

    引言 隨著人工智能技術的快速發展,深度學習算法在圖像識別、自然語言處理、語音識別等領域取得了顯著的成果。然而,深度學習算法對計算資源的需求非常高,傳統的計算芯片已經無法滿足其需求。因此,神經網絡
    的頭像 發表于 07-04 09:31 ?1766次閱讀

    神經網絡芯片和普通芯片區別

    神經網絡芯片和普通芯片的區別是一個復雜而深入的話題,涉及到計算機科學、電子工程、人工智能等多個領域。 定義 神經網絡
    的頭像 發表于 07-04 09:30 ?2139次閱讀

    反向傳播神經網絡和bp神經網絡的區別

    神經網絡在許多領域都有廣泛的應用,如語音識別、圖像識別、自然語言處理等。然而,BP神經網絡也存在一些問題,如容易陷入局部最優解、訓練時間長、對初始權重敏感等。為了解決這些問題,研究者們提出了一些改進的BP
    的頭像 發表于 07-03 11:00 ?1208次閱讀

    神經網絡和人工智能的關系是什么

    神經網絡和人工智能的關系是密不可分的。神經網絡是人工智能的一種重要實現方式,而人工智能則是神經網絡
    的頭像 發表于 07-03 10:25 ?1998次閱讀

    bp神經網絡是深度神經網絡

    Network)有相似之處,但它們之間還是存在一些關鍵的區別。 一、引言 神經網絡是一種模擬人腦神經元結構的計算模型,它由大量的神經元(或稱為節點)組成,這些神經元通過權重連接在一起
    的頭像 發表于 07-03 10:14 ?1349次閱讀

    卷積神經網絡和bp神經網絡的區別

    化能力。隨著深度學習技術的不斷發展,神經網絡已經成為人工智能領域的重要技術之一。卷積神經網絡和BP神經
    的頭像 發表于 07-02 14:24 ?6034次閱讀
    主站蜘蛛池模板: 亚洲黄网在线 | 亚洲欧美4444kkkk | 欧美三级一区二区三区 | 色爽爽爽 | 天天做天天爱天天做天天吃中 | 美女扒开尿口给男人看大全 | 午夜视频国产 | 国产一区二区三区免费大片天美 | 一本二卡三卡四卡乱码二百 | 国模私拍在线观看 | 一级三级黄色片 | 欧美午夜精品久久久久久黑人 | 国产三级观看 | 无毒不卡在线播放 | 68日本xxxxxxx18| 亚洲成人网在线观看 | 欧美美女被日 | 亚洲天堂网站 | 在线成人免费观看国产精品 | 久久久免费视频观看 | 日本不卡视频一区二区 | 四虎在线最新永久免费 | 日本一区二区免费看 | 夜夜骑天天干 | 日本高清视频在线www色 | sese亚洲| 日本色黄视频 | 狼色网 | 伊人久久综合网站 | 欧美又粗又长又湿又黄的视频 | 9984四虎永久免费网站 | 亚洲bbb| bt 另类 专区 欧美 制服 | 热re久久精品国产99热 | 免费香蕉视频国产在线看 | 美女屁屁免费视频网站 | 求网址你懂的手机在线观看网站 | 五月激激| 久青草免费视频 | 国产成人久视频免费 | 天堂tv亚洲tv日本tv欧美人tv |