在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存算一體技術路線如何選

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2022-06-21 09:27 ? 次閱讀

電子發燒友網報道(文/李彎彎)過去幾年,越來越多企業加入到存算一體技術的研究中,如今,存算一體芯片已經逐漸走向商用。

從目前入局的企業來看,路線各異,包括采用不同類型的存儲器,從中小算力入手,或是直接進行大算力存算一體芯片的研究,有的是采用模擬的存算技術,有的采用數字的存算技術。

那么如何選擇合適的存儲器類型,如何做大算力的存算一體芯片設計,采用模擬技術還是數字的方式?千芯科技董事長陳巍在接受電子發燒友采訪的時候做了詳細介紹。

如何選擇存儲器類型

千芯科技致力于大算力存算一體芯片技術的研究,在SRAM、MRAM、RRAM方面都有探索,目前基于SRAM存算一體產品樣卡正在測試,公司也在與中科院、清華大學等機構一起優化基于RRAM、MRAM存算一體電路的設計。

該公司技術團隊早期接觸過各類存儲器,陳巍博士10多年前就作為國家專項課題的技術負責人主持過當時國內最先進的NOR Flash芯片及MemoryCompiler(存儲器編譯器)的設計研發,作為負責人創建國內首個3D NAND 閃存設計團隊,SRAM、RRAM、MRAM等都接觸了10年以上,有不少這些存儲器的專利。

千芯科技也給這些存儲器做了自己的分類,陳巍強調,在進行存算一體存儲器選擇的時候,重點還是要看客戶和應用需求,根據實際應用場景來選擇存儲器比較合適。

圖:存儲器類型,優勢、不足和適用場景(來自千芯科技)


因為雖然都是存算一體,但是從應用來看,有些存算一體需要更偏向于存(ComputingMemory),有些更偏向于算(MemoryComputing),比如端側一些語音識別、人像識別的場景,對功耗和成本要求比較高,把AI計算的部分和存的部分合成一個器件,能夠有效降低成本。

比如在云計算領域,這個領域需要計算的模型非常大,同時訓練場景下,需要不斷更新數據,因此在這樣的應用場景下,一些非易失存儲器的讀寫速度,就不如SRAM、DRAM、RRAM好,這些場景更偏向于算,它目前會傾向于偏向計算能力的存儲器。

也就是說,如果是偏向于低成本,同時希望待機功耗更好,可以選擇非易失存儲器,包括Flash、RRAM、MRAM等;如果偏向于大規模計算,多數情況下可以選擇RRAM、SRAM和DRAM。另外具體來說選擇哪種存儲器,還和各家的專利布局綁定有關。

大算力存算一體芯片設計

自動駕駛、數據中心等領域,對大算力的需求比較明顯,因此各家企業也在大算力存算一體芯片的研發和推廣上投入精力。在陳巍看來,目前除了NOR閃存有些受容量限制,上述提到的各類存儲器基本可以用來做大算力存算一體。

閃存存算方面,目前主要路線是基于NOR flash(不是目前優盤所用的閃存類型),多數情況下存儲容量較小,這使得NOR flash單片算力達到1TOPS以上器件代價較大,通常業內說大算力一般是20-100TOPS以上,因此不太好直接做大算力的存算一體。而其他的存儲器,包括SRAM、RRAM等,現在已經看到,有實際產品證明可以是可以用來做到大算力的存算一體。

在設計上,大算力存算一體結構和小算力會有所不同,據陳巍介紹,這跟存算一體架構里面的計算架構有關,大算力計算架構和小算力計算架構不一樣,一是大算力的計算核會有特別的外圍電路設計,來使它的吞吐能力比小算力更強;二是在整體結構上,大算力有更多核心并聯,相當于多個小算力整合成一個大算力,有點類似于GPU的整合方式,因為GPU也相當于是不同的小算力的核心,整合起來的架構。


雖然說都可以做大算力,而基于非易失存儲器,目前做大算力存算一體,也會遇到一些工藝挑戰,基本上循環讀寫次數在十的六到八次方之后,就可能出錯,所以到目前為止,國際上直接用NVM做200Tops以上算力的還較少。

因為在大算力場景下,它有非常高頻度的讀寫,這樣會較早的面臨失效的可能,而這個失效可能會導致計算錯誤,對于產品來說,這是必須要做優化的,特別是在自動駕駛領域,如果遇到這種失效將會導致車輛失控。

這個問題如何解決呢,陳巍表示,經過與業內專家合作分析,他們認為需要從兩方面去做,一是器件的工藝水平需要優化,二是做冗余器件設計去解決這個問題,目前對于計算為主的場景,做冗余器件設計,它的性能可能就沒有先進工藝下的SRAM強,做了冗余設計之后,它的面積也會進一步提升,這樣成本的優勢可能就會有一定的降低。

因此總結來看,選擇何種存儲器去做大算力存算一體,還是要看場景,看客戶的需求,以及還和器件本身的工藝水平有很大關系。

模擬和數字存算一體技術的差別

可以看到,采用模擬還是數字的技術,也是企業常提到的一點,陳巍介紹,一般跟傳感器連接密切的部分,推薦用模擬存算一體的方式,如果計算結構復雜,建議用數字的,因為用模擬結構去做復雜計算,代價比較大,而跟傳感器進行結合的時候,模擬計算有它的天然優勢。

所以其實更多的還是看場景,比如小算力需求,就是做一個聲音識別,或者做一個小規模的圖像識別,這時候用模擬比較合適,如果說要做云計算的大算力,計算結構又復雜,目前看采用數字方式的多些。


上圖是一個存算一體的陣列,比如憶阻器,里面存入矩陣系數,或者叫權重,然后輸入數據,也就是輸入不同的電壓,根據歐姆定律,就會產生不同的電流,每個電流匯聚在一起,即相當于是電流加和(基爾霍夫定理),就完成了一個乘積累加運算,這是模擬電路完成深度學習等各種計算的基本思路。

簡單的理解,數字的方式就是把不同的模擬單元分離開,原來模擬電路,相當于是一個單元存一個模擬數值,可能是幾位的,比如8位、或4位位寬,如果變成數字的方式,相當于一個單元存入一個數值,是一個位寬的。這樣就很明顯,模擬的好處是存儲密度更高,但沒法直接做復雜計算,數字電路離散性會更好,更靈活,可以直接做復雜運算。

存算一體技術的挑戰和未來

目前而言,存算一體的發展還存在一些挑戰,陳巍談到兩點:一是生態建設,盡管存算一體這個概念并不是特別新,但是真正進入實用階段的時間還比較短,特別是通用的編譯生態環境還沒有完全成熟,這樣它在落地上就會存在一些適配要求,因為客戶對生態都是有要求的,因此急需建立存算一體的生態。

二是如何更好的滿足客戶的需求,這也是整個AI芯片落地需要解決的一個問題,企業需要更多從客戶的需求角度去設計產品,對于客戶來說,可能有很多計算場景,它其實不單是需要一個AI技術,還需要其他一些復合的計算類型,比如語音識別場景,它除了AI計算需求之后,還需要語音降噪的算法,這時候就需要根據客戶的需求進行特定場景的優化。

存算一體就技術的未來會怎樣?從兩個階段來看,陳巍認為,目前基本都處于一個市場開拓期,很多客戶還沒有完全意識到存算一體的優勢和價值,不過如果市場能夠出現一個很有影響力的廠商,來證明存算一體芯片,比傳統馮諾伊曼架構AI芯片能力更強,那么很快就會有很大的突破,預計這樣的突破在近期就會發生。

從遠期來看,存算一體會和GPU、CPU技術有很好的結合,成為CPU、GPU、DPU,或者是其他各種AI芯片的計算核心,相當于現有的存算一體技術會給GPU或者CPU賦能,成為現有技術的計算核心。

從商用角度來看,目前國內存算一體芯片至少有兩家量產,估計今年會有很多都可以開始商用,目前已落地的商用還主要是在端側可穿戴設備等領域,一些語音識別,小的視覺模型場景集中。

在自動駕駛和云計算領域,云計算領域的商用預計快一點,估計明后年開始就有產品可以逐步進入中國互聯網大廠,自動駕駛領域的商用時間會比較長,因為自動駕駛從架構設計到最后大批量裝車,一般需要五年時間,如果前面兩年已經完成了設計、流片,大約還要三年的適配和量產測試時間才能實現大批量落地應用。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • sram
    +關注

    關注

    6

    文章

    769

    瀏覽量

    114916
  • 存算一體
    +關注

    關注

    0

    文章

    104

    瀏覽量

    4357
  • 千芯科技
    +關注

    關注

    0

    文章

    1

    瀏覽量

    1306
收藏 人收藏

    評論

    相關推薦

    一體行業2024年回顧與2025年展望

    2024年,大模型技術的迅猛發展成為人工智能領域的核心驅動力,其對硬件力和存儲效率的極致需求,促使一體
    的頭像 發表于 01-23 11:24 ?366次閱讀

    于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開

    8月8日,國際領先的一體芯片開拓者——蘋芯科技在北京召開“于芯智啟未來——2024蘋芯科技產品發布會”,集中推出兩款革命性產品:PI
    的頭像 發表于 12-18 15:31 ?467次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b>于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開

    開源芯片系列講座第24期:基于SRAM的高效計算架構

    種先進的計算架構技術,以克服傳統馮諾依曼架構中計算單元與存儲單元分離導致的“內存墻”問題。基于SRAM的一體技術在智能計算中具有高能效、
    的頭像 發表于 11-27 01:05 ?346次閱讀
    開源芯片系列講座第24期:基于SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b>的高效計算架構

    直播預約 |開源芯片系列講座第24期:SRAM一體:賦能高能效RISC-V計算

    RISC-V計算報告簡介一體種先進的計算架構技術,以克服傳統馮諾依曼架構中計算單元與存儲單元分離導致的“內存墻”問題。北京大學集成電
    的頭像 發表于 11-16 01:10 ?290次閱讀
    直播預約 |開源芯片系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V計算

    一體化與邊緣計算:重新定義智能計算的未來

    隨著數據量爆炸式增長和智能化應用的普及,計算與存儲的高效整合逐漸成為科技行業關注的重點。數據存儲和處理需求的快速增長推動了對計算架構的重新設計,“一體化”技術應運而生。同時,隨著物
    的頭像 發表于 11-12 01:05 ?344次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>化與邊緣計算:重新定義智能計算的未來

    一體架構創新助力國產大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《一體架構創新助力國產大力AI芯片騰飛》的演講。
    的頭像 發表于 10-23 14:48 ?430次閱讀

    科技新突破:首款支持多模態一體AI芯片成功問世

    一體介質,通過存儲單元和計算單元的深度融合,采用22nm成熟工藝制程,有效把控制造成本。與傳統架構下的AI芯片相比,該款芯片在力、能效比,功耗等方面都具有明顯的優勢。芯片采用AI
    發表于 09-26 13:51 ?483次閱讀
    科技新突破:首款支持多模態<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>AI芯片成功問世

    后摩智能首款一體智駕芯片獲評突出創新產品獎

    近日,2024年6月29日,由深圳市汽車電子行業協會主辦的「第十三屆國際汽車電子產業峰會暨2023年度汽車電子科學技術獎頒獎典禮」在深圳寶安隆重舉行。后摩智能首款一體智駕芯片——后
    的頭像 發表于 09-24 16:51 ?593次閱讀

    蘋芯科技引領存一體技術革新 PIMCHIP系列芯片重塑AI計算新格局

    智能芯片國產化再傳利好,8月8日,國際領先的一體芯片開拓者——蘋芯科技在北京召開 “于芯 智啟未來——2024 蘋芯科技產品發布會”
    發表于 08-08 17:21 ?295次閱讀
    蘋芯科技引領存<b class='flag-5'>算</b><b class='flag-5'>一體</b><b class='flag-5'>技術</b>革新   PIMCHIP系列芯片重塑AI計算新格局

    一體成型電感大了有什么影響

    電子發燒友網站提供《一體成型電感大了有什么影響.docx》資料免費下載
    發表于 07-04 16:54 ?1次下載

    后摩智能推出邊端大模型AI芯片M30,展現出一體架構優勢

    了基于M30芯片的智模組(SoM)和力謀??AI加速卡。 ? 后摩智能一體架構芯片產品 ? 后摩智能是家專注于
    的頭像 發表于 07-03 00:58 ?4397次閱讀

    科技助力AI應用落地:WTMDK2101-ZT1評估板實地評測與性能揭秘

    一體領域,全球參與者可分為國際巨頭和新興企業兩大陣營。國際巨頭如英特爾、IBM、特斯拉等早已布局技術,并推出代表未來趨勢的產品。而新興
    發表于 05-16 16:38

    探索內計算—基于 SRAM 的內計算與基于 MRAM 的一體的探究

    本文深入探討了基于SRAM和MRAM的一體技術在計算領域的應用和發展。首先,介紹了基于SRAM的內邏輯計算
    的頭像 發表于 05-16 16:10 ?3212次閱讀
    探索<b class='flag-5'>存</b>內計算—基于 SRAM 的<b class='flag-5'>存</b>內計算與基于 MRAM 的<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>的探究

    科技攜手北大共建一體技術實驗室,推動AI創新

    揭牌儀式結束后,王紹迪在北大集成電路學院舉辦的“未名·芯”論壇上做了主題演講,分享了他對于多模態大模型時代內計算發展的見解。他強調了一體在人工智能領域的重要性及其未來發展趨勢。
    的頭像 發表于 05-08 17:25 ?1046次閱讀

    北京大學-知科技一體聯合實驗室揭牌,開啟知科技產學研融合戰略新升級

    5月5日,“北京大學-知科技一體技術聯合實驗室”在北京大學微納電子大廈正式揭牌,北京大學集成電路學院院長蔡
    的頭像 發表于 05-07 19:31 ?1530次閱讀
    北京大學-知<b class='flag-5'>存</b>科技<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>聯合實驗室揭牌,開啟知<b class='flag-5'>存</b>科技產學研融合戰略新升級
    主站蜘蛛池模板: 亚洲第一视频区 | 国产精品色片 | 天堂一区二区三区在线观看 | 站长工具天天爽视频 | 久久久五月天 | 天天躁天天爽 | 日本网络视频www色高清免费 | 香焦视频在线观看黄 | www.亚洲一区 | 狠狠色丁香久久综合婷婷 | 国产一级久久免费特黄 | 加勒比日本在线 | 91免费网站在线看入口黄 | 久久夜夜操 | 一级视频片 | 国产香蕉精品视频在 | 国产精品视频色拍拍 | 男女www视频在线看网站 | 午夜影院性 | 妖精视频一区二区三区 | 一级视频在线观看免费 | 欧美性黑人极品1819hd | 亚洲淫视频 | 1000部啪啪未满十八勿入 | 日韩三级 | 奇米4色| 亚洲a免费| 午夜在线观看免费视频 | 色天使在线观看 | 久久这里只有精品免费视频 | 岛国午夜精品视频在线观看 | 曰本aaaaa毛片午夜网站 | 国产色视频网站免费观看 | 免费看av的网址 | 日韩一区二区视频在线观看 | xxx黄色片 | 奇米色88欧美一区二区 | 五月天丁香婷婷网 | 伊人小婷婷色香综合缴缴情 | 伊人毛片| 91热成人精品国产免费 |