在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Nature下一代計算架構革命 從全光學神經網絡開始

電子工程師 ? 來源:fqj ? 2019-05-13 11:06 ? 次閱讀

近日,Nature刊載IBM新研究,使用光學器件打造的“全光學”深度神經網絡可以比傳統計算方式的能效更高,同時具備可擴展性、無需光電轉換和高帶寬等優勢。這一發現可能給未來光學神經網絡加速器的出現打下基礎。

光纖能夠以光的形式在世界范圍內傳輸數據,成為現代電信技術的支柱。不過如果需要分析這些傳輸數據,要將其從光信號轉換為電子信號,然后用電子設備進行處理。曾經有一段時間,光學被認為是未來最具潛力的計算技術的基礎,但與電子計算機的快速進步相比,光學計算技術的競爭力明顯不足。

不過,在過去幾年中,業界越來越關注對計算能源的成本問題。因此,光學計算系統再次受到關注。光學計算的能耗低,又能作為AI算法(如深度神經網絡(DNN))的專用加速硬件。 近日,Feldmann等人在《自然》期刊上發表了這種“全光學網絡實現”的最新進展。

深度神經網絡包括多層人工神經元和人工突觸。這些連接的強度稱為網絡權重,可以是陽性,表示神經元的興奮,或陰性,表示神經元的抑制。網絡會盡力將實際輸出和期望輸出之間的差異實現最小化,從而改變突觸的權重,來執行圖像識別等任務。

CPU和其他硬件加速器通常用于DNN的計算。DNN的訓練可以使用已知數據集,而經過訓練后的DNN可以用來推理任務中的未知數據。雖然計算量很大,但計算操作的多樣性不會很高,因為“乘法累加”操作在許多突觸權重和神經元激勵中占主導地位。

DNN在計算精度較低時仍能正常工作。因此,DNN網絡代表了非傳統計算技術的潛在機會。研究人員正在努力打造基于新型非易失性存儲器件的DNN加速器。這類設備在切斷電源時也能保存信息,通過模擬電子計算提升DNN的速度和能效。

那么,為什么不考慮使用光學器件呢?導光部件中可以包含大量數據 - 無論是用于電信的光纖還是用于光子芯片上的波導。在這種波導內部,可以使用“波分復用”技術,讓許多不同波長的光一起傳播。然后可以以與電子到光學調制和光電子檢測相關的可用帶寬限制的速率調制(以可以攜帶信息的方式改變)每個波長。

Nature下一代計算架構革命 從全光學神經網絡開始

圖1全光學脈沖神經元回路

使用諧振器可以實現單個波長的添加或移除,就像對貨車的裝貨和卸貨一樣。使用微米級環形諧振器可以構建DNN網絡突觸權重陣列。這種諧振器可以采用熱調制,電光調制,或通過相變材料調制。這些材料可以在非晶相和結晶相之間切換,不同的材料的吸光能力差別很大。在理想條件下,進行乘法累加運算的功耗很低。

Feldmann研究團隊在毫米級光子芯片上實現了“全光學神經網絡”,其中網絡內沒有使用光電轉換。輸入的數據被電子調制到不同的波長上注入網絡,但此后所有數據都保留在芯片上。利用集成相變材料實現突觸權重的調節和神經元的集成。

Nature下一代計算架構革命 從全光學神經網絡開始

圖2人工神經元的脈沖生成與操作

本文作者小規模地展示了有監督和無監督的學習 - 即使用標記數據實現訓練(DNN學習的方式),以及使用未標記的數據訓練(類似人類的學習方式)。

Nature下一代計算架構革命 從全光學神經網絡開始

圖3基于相變全光學神經元系統實現監督學習和非監督學習

因為權重表達是通過光的吸收實現的,所以負權重需要更大的偏置信號,該信號不能激活相變材料。一種替代方法是使用Mach-Zehnder干涉儀的裝置,將單個波導分成兩個臂,然后重新組合,這時的透射光量取決于兩個傳播路徑之間光學相位的差異。然而,要想將這種方法與波分復用相結合可能難度較大,因為每個干涉儀的臂需要為每個波長引入適當的相位差。

全光學實現的DNN仍然存在重大挑戰。在理想情況下,它們的總功率使用率可能較低,經常需要熱光功率來調節和維持每個Mach-Zehnder干涉儀臂中的光學相位差異。

Nature下一代計算架構革命 從全光學神經網絡開始

圖4全光學神經網絡的可擴展架構

此外,對注入含有相變材料的系統的總光功率必須仔細校準,以使材料對輸入信號的響應符合預期。盡管相變材料也可以用于調整Mach-Zehnder相位,但是材料吸收光的強度和減慢光速之間會出現不可避免的交叉耦合,這會增加系統的復雜性。

傳統的DNN規模已經發展到很大,可能包含數千個神經元和數百萬個突觸。但是光子網絡的波導需要彼此間隔很遠才能防止耦合,并且避免急劇彎曲以防止光離開波導。因為兩個波導的交叉可能會將不需要的功率注入錯誤路徑,這對光子芯片設計的2D特性造成了實質性的限制。

Nature下一代計算架構革命 從全光學神經網絡開始

圖5單層脈沖神經網絡的實驗實現

實現光學器件打造神經網絡需要很長的距離和很大的面積,但是每個光學結構的關鍵部分的制造需要高精度。這是因為波導和耦合區域,比如在每個微環諧振器的入口和出口處,必須達到相應網絡性能所需的精確尺寸。對于如何制造小型微環諧振器也存在諸多限制。

最后,調制技術提供的光學效應較弱,需要很長的相互作用區域,以使其對通過的光的有限影響能夠達到顯著水平。

Feldmann 團隊的研究中所取得的進步,有望推動該領域的未來發展,該研究可能會為未來高能效、可擴展的光學神經網絡加速器的出現打下基礎。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4793

    瀏覽量

    102039
  • 光學器件
    +關注

    關注

    1

    文章

    149

    瀏覽量

    12114

原文標題:Nature最新:下一代計算架構革命,從“全光學神經網絡”開始

文章出處:【微信號:aicapital,微信公眾號:全球人工智能】歡迎添加關注!文章轉載請注明出處。

收藏 0人收藏

    評論

    相關推薦

    神經網絡解決方案讓自動駕駛成為現實

    及 3x3 的 24 層卷積神經網絡, 其性能表現幾乎是個在典型的 GPU/CPU 綜合處理引擎上運行的類似 CNN 的三倍,盡管其所需的內存帶寬只是后者的五分之且功耗大幅降低。下一代
    發表于 12-21 17:11

    【PYNQ-Z2試用體驗】神經網絡基礎知識

    學習和認知科學領域,是種模仿生物神經網絡(動物的中樞神經系統,特別是大腦)的結構和功能的數學模型或計算模型,用于對函數進行估計或近似。神經網絡
    發表于 03-03 22:10

    連接神經網絡和卷積神經網絡有什么區別

    連接神經網絡和卷積神經網絡的區別
    發表于 06-06 14:21

    【案例分享】基于BP算法的前饋神經網絡

    `BP神經網絡首先給出只包含個隱層的BP神經網絡模型(兩層神經網絡): BP神經網絡其實由兩部分組成:前饋
    發表于 07-21 04:00

    【案例分享】ART神經網絡與SOM神經網絡

    今天學習了兩個神經網絡,分別是自適應諧振(ART)神經網絡與自組織映射(SOM)神經網絡。整體感覺不是很難,只不過些最基礎的概念容易理解不清。首先ART
    發表于 07-21 04:30

    為什么說射頻前端的體化設計決定下一代移動設備?

    隨著移動行業向下一代網絡邁進,整個行業將面臨射頻組件匹配,模塊架構和電路設計上的挑戰。射頻前端的體化設計對下一代移動設備真的有影響嗎?
    發表于 08-01 07:23

    單片光學實現下一代設計

    單片光學 - 實現下一代設計
    發表于 09-20 10:40

    基于光學芯片的神經網絡訓練解析,不看肯定后悔

    基于光學芯片的神經網絡訓練解析,不看肯定后悔
    發表于 06-21 06:33

    如何構建神經網絡?

    原文鏈接:http://tecdat.cn/?p=5725 神經網絡種基于現有數據創建預測的計算系統。如何構建神經網絡神經網絡包括:輸
    發表于 07-12 08:02

    可分離卷積神經網絡在 Cortex-M 處理器上實現關鍵詞識別

    ,接下來是密集連接層?!?深度可分離卷積神經網絡 (DS-CNN)最近,深度可分離卷積神經網絡被推薦為標準 3D 卷積運算的高效替代方案,并已用于實現計算機視覺的緊湊
    發表于 07-26 09:46

    卷積神經網絡模型發展及應用

    為 三個過程:輸入信號線性加權、求和、非線性激活。1958 年到 1969 年為神經網絡模型發展的第階段, 稱為第一代神經網絡模型。在 1958 年 Rosenblatt 第
    發表于 08-02 10:39

    基于Imagination革命性的NNA架構PowerVRSeries2NX設計的神經網絡內核詳解

    高性能計算。這兩款內核是基于Imagination革命性的神經網絡加速器(NNA)架構PowerVRSeries2NX設計的,該架構可以使“
    發表于 06-21 11:02 ?1704次閱讀
    基于Imagination<b class='flag-5'>革命</b>性的NNA<b class='flag-5'>架構</b>PowerVRSeries2NX設計的<b class='flag-5'>神經網絡</b>內核詳解

    基于相變光學神經元系統實現監督學習和非監督學習

    近日,Nature刊載IBM新研究,使用光學器件打造的“光學”深度神經網絡可以比傳統計算方式的
    的頭像 發表于 05-12 11:47 ?3546次閱讀

    衍射光學神經網絡可以滿足巨大的數據需求

    隨著神經網絡的規模和功率的增長,當在傳統電子設備上運行時,它們越來越需要能量。這就是為什么些科學家直在研究光學計算作為
    的頭像 發表于 02-20 14:03 ?1470次閱讀

    神經網絡架構有哪些

    神經網絡架構是機器學習領域中的核心組成部分,它們模仿了生物神經網絡的運作方式,通過復雜的網絡結構實現信息的處理、存儲和傳遞。隨著深度學習技術的不斷發展,各種
    的頭像 發表于 07-01 14:16 ?1188次閱讀
    主站蜘蛛池模板: 亚洲国产成人久久精品图片 | 偷偷要色偷偷 | 免费黄色福利 | 四虎精品久久久久影院 | 日本在线不卡一区二区 | 国产视频黄色 | 国模大胆一区二区三区 | 国卡一卡二卡三免费网站 | 人人爱天天做夜夜爽 | 久久久久久久成人午夜精品福利 | 久久久久久国产精品免费 | 神马午夜在线观看 | 欧美福利视频网站 | 亚洲成a人片777777久久 | 日韩天堂在线观看 | 欧美日操 | 日本一线a视频免费观看 | 欧美潘金莲一级风流片a级 欧美片欧美日韩国产综合片 | 久久dvd | 国产精品毛片久久久久久久 | 欧美一级高清片在线 | 日本黄色三级视频 | 国产网红精品 | 伊人色婷婷综在合线亚洲 | 特级一级毛片免费看 | 噜噜噜 综合 亚洲 | 亚洲啊v在线 | 成人免费国产gav视频在线 | 欧美深深色噜噜狠狠yyy | 一区二区三区四区无限乱码在线观看 | 97久久综合区小说区图片专区 | 天天操网站 | 成人狠狠色综合 | 免费看欧美一级特黄α大片 | 国产免费私拍一区二区三区 | 国产亚洲情侣久久精品 | 天天操操操操操操 | 99久久免费精品国产免费高清 | 日本在线一级 | 美女一级免费毛片 | 日韩成人免费一级毛片 |

    電子發燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品