電子發燒友網報道(文/李彎彎)過去幾年,越來越多企業加入到存算一體技術的研究中,如今,存算一體芯片已經逐漸走向商用。
從目前入局的企業來看,路線各異,包括采用不同類型的存儲器,從中小算力入手,或是直接進行大算力存算一體芯片的研究,有的是采用模擬的存算技術,有的采用數字的存算技術。
那么如何選擇合適的存儲器類型,如何做大算力的存算一體芯片設計,采用模擬技術還是數字的方式?千芯科技董事長陳巍在接受電子發燒友采訪的時候做了詳細介紹。
如何選擇存儲器類型
千芯科技致力于大算力存算一體芯片技術的研究,在SRAM、MRAM、RRAM方面都有探索,目前基于SRAM存算一體產品樣卡正在測試,公司也在與中科院、清華大學等機構一起優化基于RRAM、MRAM存算一體電路的設計。
該公司技術團隊早期接觸過各類存儲器,陳巍博士10多年前就作為國家專項課題的技術負責人主持過當時國內最先進的NOR Flash芯片及MemoryCompiler(存儲器編譯器)的設計研發,作為負責人創建國內首個3D NAND 閃存設計團隊,SRAM、RRAM、MRAM等都接觸了10年以上,有不少這些存儲器的專利。
千芯科技也給這些存儲器做了自己的分類,陳巍強調,在進行存算一體存儲器選擇的時候,重點還是要看客戶和應用需求,根據實際應用場景來選擇存儲器比較合適。
圖:存儲器類型,優勢、不足和適用場景(來自千芯科技)
因為雖然都是存算一體,但是從應用來看,有些存算一體需要更偏向于存(ComputingMemory),有些更偏向于算(MemoryComputing),比如端側一些語音識別、人像識別的場景,對功耗和成本要求比較高,把AI計算的部分和存的部分合成一個器件,能夠有效降低成本。
比如在云計算領域,這個領域需要計算的模型非常大,同時訓練場景下,需要不斷更新數據,因此在這樣的應用場景下,一些非易失存儲器的讀寫速度,就不如SRAM、DRAM、RRAM好,這些場景更偏向于算,它目前會傾向于偏向計算能力的存儲器。
也就是說,如果是偏向于低成本,同時希望待機功耗更好,可以選擇非易失存儲器,包括Flash、RRAM、MRAM等;如果偏向于大規模計算,多數情況下可以選擇RRAM、SRAM和DRAM。另外具體來說選擇哪種存儲器,還和各家的專利布局綁定有關。
大算力存算一體芯片設計
在自動駕駛、數據中心等領域,對大算力的需求比較明顯,因此各家企業也在大算力存算一體芯片的研發和推廣上投入精力。在陳巍看來,目前除了NOR閃存有些受容量限制,上述提到的各類存儲器基本可以用來做大算力存算一體。
閃存存算方面,目前主要路線是基于NOR flash(不是目前優盤所用的閃存類型),多數情況下存儲容量較小,這使得NOR flash單片算力達到1TOPS以上器件代價較大,通常業內說大算力一般是20-100TOPS以上,因此不太好直接做大算力的存算一體。而其他的存儲器,包括SRAM、RRAM等,現在已經看到,有實際產品證明可以是可以用來做到大算力的存算一體。
在設計上,大算力存算一體結構和小算力會有所不同,據陳巍介紹,這跟存算一體架構里面的計算架構有關,大算力計算架構和小算力計算架構不一樣,一是大算力的計算核會有特別的外圍電路設計,來使它的吞吐能力比小算力更強;二是在整體結構上,大算力有更多核心并聯,相當于多個小算力整合成一個大算力,有點類似于GPU的整合方式,因為GPU也相當于是不同的小算力的核心,整合起來的架構。
雖然說都可以做大算力,而基于非易失存儲器,目前做大算力存算一體,也會遇到一些工藝挑戰,基本上循環讀寫次數在十的六到八次方之后,就可能出錯,所以到目前為止,國際上直接用NVM做200Tops以上算力的還較少。
因為在大算力場景下,它有非常高頻度的讀寫,這樣會較早的面臨失效的可能,而這個失效可能會導致計算錯誤,對于產品來說,這是必須要做優化的,特別是在自動駕駛領域,如果遇到這種失效將會導致車輛失控。
這個問題如何解決呢,陳巍表示,經過與業內專家合作分析,他們認為需要從兩方面去做,一是器件的工藝水平需要優化,二是做冗余器件設計去解決這個問題,目前對于計算為主的場景,做冗余器件設計,它的性能可能就沒有先進工藝下的SRAM強,做了冗余設計之后,它的面積也會進一步提升,這樣成本的優勢可能就會有一定的降低。
因此總結來看,選擇何種存儲器去做大算力存算一體,還是要看場景,看客戶的需求,以及還和器件本身的工藝水平有很大關系。
模擬和數字存算一體技術的差別
可以看到,采用模擬還是數字的技術,也是企業常提到的一點,陳巍介紹,一般跟傳感器連接密切的部分,推薦用模擬存算一體的方式,如果計算結構復雜,建議用數字的,因為用模擬結構去做復雜計算,代價比較大,而跟傳感器進行結合的時候,模擬計算有它的天然優勢。
所以其實更多的還是看場景,比如小算力需求,就是做一個聲音識別,或者做一個小規模的圖像識別,這時候用模擬比較合適,如果說要做云計算的大算力,計算結構又復雜,目前看采用數字方式的多些。
上圖是一個存算一體的陣列,比如憶阻器,里面存入矩陣系數,或者叫權重,然后輸入數據,也就是輸入不同的電壓,根據歐姆定律,就會產生不同的電流,每個電流匯聚在一起,即相當于是電流加和(基爾霍夫定理),就完成了一個乘積累加運算,這是模擬電路完成深度學習等各種計算的基本思路。
簡單的理解,數字的方式就是把不同的模擬單元分離開,原來模擬電路,相當于是一個單元存一個模擬數值,可能是幾位的,比如8位、或4位位寬,如果變成數字的方式,相當于一個單元存入一個數值,是一個位寬的。這樣就很明顯,模擬的好處是存儲密度更高,但沒法直接做復雜計算,數字電路離散性會更好,更靈活,可以直接做復雜運算。
存算一體技術的挑戰和未來
目前而言,存算一體的發展還存在一些挑戰,陳巍談到兩點:一是生態建設,盡管存算一體這個概念并不是特別新,但是真正進入實用階段的時間還比較短,特別是通用的編譯生態環境還沒有完全成熟,這樣它在落地上就會存在一些適配要求,因為客戶對生態都是有要求的,因此急需建立存算一體的生態。
二是如何更好的滿足客戶的需求,這也是整個AI芯片落地需要解決的一個問題,企業需要更多從客戶的需求角度去設計產品,對于客戶來說,可能有很多計算場景,它其實不單是需要一個AI技術,還需要其他一些復合的計算類型,比如語音識別場景,它除了AI計算需求之后,還需要語音降噪的算法,這時候就需要根據客戶的需求進行特定場景的優化。
存算一體就技術的未來會怎樣?從兩個階段來看,陳巍認為,目前基本都處于一個市場開拓期,很多客戶還沒有完全意識到存算一體的優勢和價值,不過如果市場能夠出現一個很有影響力的廠商,來證明存算一體芯片,比傳統馮諾伊曼架構AI芯片能力更強,那么很快就會有很大的突破,預計這樣的突破在近期就會發生。
從遠期來看,存算一體會和GPU、CPU技術有很好的結合,成為CPU、GPU、DPU,或者是其他各種AI芯片的計算核心,相當于現有的存算一體技術會給GPU或者CPU賦能,成為現有技術的計算核心。
從商用角度來看,目前國內存算一體芯片至少有兩家量產,估計今年會有很多都可以開始商用,目前已落地的商用還主要是在端側可穿戴設備等領域,一些語音識別,小的視覺模型場景集中。
在自動駕駛和云計算領域,云計算領域的商用預計快一點,估計明后年開始就有產品可以逐步進入中國互聯網大廠,自動駕駛領域的商用時間會比較長,因為自動駕駛從架構設計到最后大批量裝車,一般需要五年時間,如果前面兩年已經完成了設計、流片,大約還要三年的適配和量產測試時間才能實現大批量落地應用。
-
sram
+關注
關注
6文章
769瀏覽量
114916 -
存算一體
+關注
關注
0文章
104瀏覽量
4357 -
千芯科技
+關注
關注
0文章
1瀏覽量
1306
發布評論請先 登錄
相關推薦
存算一體行業2024年回顧與2025年展望
存算于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開
![<b class='flag-5'>存</b><b class='flag-5'>算</b>于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開](https://file1.elecfans.com/web3/M00/02/DE/wKgZPGdibiyAVc-kAAAZpDXZYJQ526.png)
直播預約 |開源芯片系列講座第24期:SRAM存算一體:賦能高能效RISC-V計算
![直播預約 |開源芯片系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V計算](https://file1.elecfans.com/web2/M00/E5/E7/wKgZomZFcsyAcT-5AAA2A4dQRkQ217.png)
存算一體化與邊緣計算:重新定義智能計算的未來
![<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>化與邊緣計算:重新定義智能計算的未來](https://file.elecfans.com/web2/M00/4E/DC/poYBAGLCjeiALm_WAAAYmfR7Qec474.png)
存算一體架構創新助力國產大算力AI芯片騰飛
科技新突破:首款支持多模態存算一體AI芯片成功問世
![科技新突破:首款支持多模態<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>AI芯片成功問世](https://file1.elecfans.com/web2/M00/09/01/wKgaomb09rmARsAYAANISILK6RA658.jpg)
后摩智能首款存算一體智駕芯片獲評突出創新產品獎
蘋芯科技引領存算一體技術革新 PIMCHIP系列芯片重塑AI計算新格局
![蘋芯科技引領存<b class='flag-5'>算</b><b class='flag-5'>一體</b><b class='flag-5'>技術</b>革新 PIMCHIP系列芯片重塑AI計算新格局](https://file1.elecfans.com/web2/M00/01/50/wKgZoma0jkyAA36kAANIR3SKl7U803.jpg)
評論