在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

IBM新研究,使用光學器件打造的“全光學”深度神經網絡

DPVg_AI_era ? 來源:lq ? 2019-05-11 09:22 ? 次閱讀

近日,Nature刊載IBM新研究,使用光學器件打造的“全光學”深度神經網絡可以比傳統計算方式的能效更高,同時具備可擴展性、無需光電轉換和高帶寬等優勢。這一發現可能給未來光學神經網絡加速器的出現打下基礎。

光纖能夠以光的形式在世界范圍內傳輸數據,成為現代電信技術的支柱。不過如果需要分析這些傳輸數據,要將其從光信號轉換為電子信號,然后用電子設備進行處理。曾經有一段時間,光學被認為是未來最具潛力的計算技術的基礎,但與電子計算機的快速進步相比,光學計算技術的競爭力明顯不足。

不過,在過去幾年中,業界越來越關注對計算能源的成本問題。因此,光學計算系統再次受到關注。光學計算的能耗低,又能作為AI算法(如深度神經網絡(DNN))的專用加速硬件。 近日,Feldmann等人在《自然》期刊上發表了這種“全光學網絡實現”的最新進展。

論文地址:

https://www.nature.com/articles/s41586-019-1157-8

深度神經網絡包括多層人工神經元和人工突觸。這些連接的強度稱為網絡權重,可以是陽性,表示神經元的興奮,或陰性,表示神經元的抑制。網絡會盡力將實際輸出和期望輸出之間的差異實現最小化,從而改變突觸的權重,來執行圖像識別等任務。

CPU和其他硬件加速器通常用于DNN的計算。DNN的訓練可以使用已知數據集,而經過訓練后的DNN可以用來推理任務中的未知數據。雖然計算量很大,但計算操作的多樣性不會很高,因為“乘法累加”操作在許多突觸權重和神經元激勵中占主導地位。

DNN在計算精度較低時仍能正常工作。因此,DNN網絡代表了非傳統計算技術的潛在機會。研究人員正在努力打造基于新型非易失性存儲器件的DNN加速器。這類設備在切斷電源時也能保存信息,通過模擬電子計算提升DNN的速度和能效。

那么,為什么不考慮使用光學器件呢?導光部件中可以包含大量數據 - 無論是用于電信的光纖還是用于光子芯片上的波導。在這種波導內部,可以使用“波分復用”技術,讓許多不同波長的光一起傳播。然后可以以與電子到光學調制和光電子檢測相關的可用帶寬限制的速率調制(以可以攜帶信息的方式改變)每個波長。

圖1全光學脈沖神經元回路

使用諧振器可以實現單個波長的添加或移除,就像對貨車的裝貨和卸貨一樣。使用微米級環形諧振器可以構建DNN網絡突觸權重陣列。這種諧振器可以采用熱調制,電光調制,或通過相變材料調制。這些材料可以在非晶相和結晶相之間切換,不同的材料的吸光能力差別很大。在理想條件下,進行乘法累加運算的功耗很低。

Feldmann研究團隊在毫米級光子芯片上實現了“全光學神經網絡”,其中網絡內沒有使用光電轉換。輸入的數據被電子調制到不同的波長上注入網絡,但此后所有數據都保留在芯片上。利用集成相變材料實現突觸權重的調節和神經元的集成。

圖2人工神經元的脈沖生成與操作

本文作者小規模地展示了有監督和無監督的學習 - 即使用標記數據實現訓練(DNN學習的方式),以及使用未標記的數據訓練(類似人類的學習方式)。

圖3基于相變全光學神經元系統實現監督學習和非監督學習

因為權重表達是通過光的吸收實現的,所以負權重需要更大的偏置信號,該信號不能激活相變材料。一種替代方法是使用Mach-Zehnder干涉儀的裝置,將單個波導分成兩個臂,然后重新組合,這時的透射光量取決于兩個傳播路徑之間光學相位的差異。然而,要想將這種方法與波分復用相結合可能難度較大,因為每個干涉儀的臂需要為每個波長引入適當的相位差。

全光學實現的DNN仍然存在重大挑戰。在理想情況下,它們的總功率使用率可能較低,經常需要熱光功率來調節和維持每個Mach-Zehnder干涉儀臂中的光學相位差異。

圖4全光學神經網絡的可擴展架構

此外,對注入含有相變材料的系統的總光功率必須仔細校準,以使材料對輸入信號的響應符合預期。盡管相變材料也可以用于調整Mach-Zehnder相位,但是材料吸收光的強度和減慢光速之間會出現不可避免的交叉耦合,這會增加系統的復雜性。

傳統的DNN規模已經發展到很大,可能包含數千個神經元和數百萬個突觸。但是光子網絡的波導需要彼此間隔很遠才能防止耦合,并且避免急劇彎曲以防止光離開波導。因為兩個波導的交叉可能會將不需要的功率注入錯誤路徑,這對光子芯片設計的2D特性造成了實質性的限制。

圖5單層脈沖神經網絡的實驗實現

實現光學器件打造神經網絡需要很長的距離和很大的面積,但是每個光學結構的關鍵部分的制造需要高精度。這是因為波導和耦合區域,比如在每個微環諧振器的入口和出口處,必須達到相應網絡性能所需的精確尺寸。對于如何制造小型微環諧振器也存在諸多限制。

最后,調制技術提供的光學效應較弱,需要很長的相互作用區域,以使其對通過的光的有限影響能夠達到顯著水平。

Feldmann 團隊的研究中所取得的進步,有望推動該領域的未來發展,該研究可能會為未來高能效、可擴展的光學神經網絡加速器的出現打下基礎。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 加速器
    +關注

    關注

    2

    文章

    809

    瀏覽量

    38121
  • 神經網絡
    +關注

    關注

    42

    文章

    4783

    瀏覽量

    101236
  • 光學器件
    +關注

    關注

    1

    文章

    147

    瀏覽量

    12005

原文標題:Nature最新:下一代計算架構革命,從“全光學神經網絡”開始

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    詳解深度學習、神經網絡與卷積神經網絡的應用

    處理技術也可以通過深度學習來獲得更優異的效果,比如去噪、超分辨率和跟蹤算法等。為了跟上時代的步伐,必須對深度學習與神經網絡技術有所學習和研究。本文將介紹
    的頭像 發表于 01-11 10:51 ?2313次閱讀
    詳解<b class='flag-5'>深度</b>學習、<b class='flag-5'>神經網絡</b>與卷積<b class='flag-5'>神經網絡</b>的應用

    基于光學衍射神經網絡的軌道角動量復用全息技術的設計與實驗研究

    隨著神經網絡的發展,光學神經網絡(ONN)的研究受到廣泛關注。研究人員從衍射光學、散射光、光干涉
    的頭像 發表于 12-07 17:39 ?2141次閱讀
    基于<b class='flag-5'>光學</b>衍射<b class='flag-5'>神經網絡</b>的軌道角動量復用全息技術的設計與實驗<b class='flag-5'>研究</b>

    連接神經網絡和卷積神經網絡有什么區別

    連接神經網絡和卷積神經網絡的區別
    發表于 06-06 14:21

    基于光學芯片的神經網絡訓練解析,不看肯定后悔

    基于光學芯片的神經網絡訓練解析,不看肯定后悔
    發表于 06-21 06:33

    深度神經網絡是什么

    多層感知機 深度神經網絡in collaboration with Hsu Chung Chuan, Lin Min Htoo, and Quah Jia Yong. 與許忠傳,林敏濤和華佳勇合作
    發表于 07-12 06:35

    卷積神經網絡模型發展及應用

    卷積神經網絡模型發展及應用轉載****地址:http://fcst.ceaj.org/CN/abstract/abstract2521.shtml深度學習是機器學習和人工智能研究的最新趨勢,作為一個
    發表于 08-02 10:39

    直接在光學芯片上訓練人工神經網絡

    新的訓練協議在具有可調諧光束分離器的光學電路運行,通過改變光學移相器的設置進行調整。具體來說,該方法是將編碼有待處理信息的激光束發射到光學電路中,由光波導通過光束分離器進行傳輸,像旋鈕一樣進行調整,以訓練
    的頭像 發表于 07-29 10:14 ?3833次閱讀

    用光速實現深度學習,探討光學神經網絡的應用

    光學人工神經網絡直觀模擬大腦處理信息的方式,可應用到新的相機設計和光學組件設計中,也可用于醫療技術、機器人、安全等領域。
    的頭像 發表于 09-09 10:28 ?7066次閱讀

    基于相變光學神經元系統實現監督學習和非監督學習

    近日,Nature刊載IBM研究,使用光學器件打造的“
    的頭像 發表于 05-12 11:47 ?3482次閱讀

    Nature下一代計算架構革命 從光學神經網絡開始

    近日,Nature刊載IBM研究,使用光學器件打造的“
    的頭像 發表于 05-13 11:06 ?2822次閱讀

    UCLA新型光學神經網絡可立即識別物體

    美國加州大學洛杉磯分校研發了一種光學神經網絡,可能可以生產出無需額外計算機處理就可立即識別物體的光學設備。
    的頭像 發表于 04-15 17:13 ?2131次閱讀

    完全通過光學,不要計算機也能構建個神經網絡

    在傳統混合光學神經網絡中,光學組件通常用于線性運算,而非線性激活函數通常使用電子的方式實現。這主要因為非線性光學器件需要高功率的激光器,
    的頭像 發表于 04-17 09:57 ?4465次閱讀
    完全通過<b class='flag-5'>光學</b>,不要計算機也能構建個<b class='flag-5'>神經網絡</b>?

    衍射光學神經網絡可以滿足巨大的數據需求

    隨著神經網絡的規模和功率的增長,當在傳統電子設備上運行時,它們越來越需要能量。這就是為什么一些科學家一直在研究光學計算作為一種有前途的下一代人工智能媒介。這種方法使用光而不是電來執行計
    的頭像 發表于 02-20 14:03 ?1351次閱讀

    卷積神經網絡深度神經網絡的優缺點 卷積神經網絡深度神經網絡的區別

    深度神經網絡是一種基于神經網絡的機器學習算法,其主要特點是由多層神經元構成,可以根據數據自動調整神經元之間的權重,從而實現對大規模數據進行預
    發表于 08-21 17:07 ?4263次閱讀

    深度神經網絡模型有哪些

    模型: 多層感知器(Multilayer Perceptron,MLP): 多層感知器是最基本的深度神經網絡模型,由多個連接層組成。每個隱藏層的神經元數量可以不同,通常使用激活函數如
    的頭像 發表于 07-02 10:00 ?1663次閱讀
    主站蜘蛛池模板: 亚洲天堂社区 | 欧美一级特黄aaaaaaa在线观看 | 色综合综合色综合色综合 | 色综合天天综合网亚洲影院 | 男人天堂伊人网 | 亚洲高清不卡视频 | 久久99色 | 国产高清免费午夜在线视频 | 欧美三级成人 | 美女网站黄在线看 | 久久久久久国产精品mv | 午夜视频免费观看黄 | 国产女人在线视频 | 美女视频黄视大全视频免费网址 | 第一页综合 | 亚洲成年人影院 | 天堂网在线最新版官网 | 免费观看a毛片一区二区不卡 | 优优国产在线视频 | www.妖精视频 | 亚洲香蕉影院 | 国外精品视频在线观看免费 | 人人干日日操 | 久久综合五月开心婷婷深深爱 | 色综合久久天天综合观看 | 色激情网 | 欧美国产精品主播一区 | 黄在线观看在线播放720p | 99久久香蕉国产综合影院 | avtt亚洲一区中文字幕 | 日本理论午夜中文字幕第一页 | 久久午夜综合久久 | 人人干网站 | 亚洲第一看片 | 成人亚洲欧美在线电影www色 | 1000部啪啪勿入十八免费 | mm365快播综合网 | 韩国一级网站 | 韩国理论片2023现在观看 | 在线视频黄色 | aa三级动态图无遮无挡 |