隨著人工智能 (AI) 和深度學(xué)習(xí)應(yīng)用在越來越多的行業(yè)中變得越來越普遍,對更好的性能、更大的深度神經(jīng)網(wǎng)絡(luò) (DNN) 模型容量和更低功耗的需求變得越來越重要。
與此同時,DNN 模型正在以指數(shù)級的速度增長。對于這些型號,傳統(tǒng)數(shù)字處理器難以以足夠低的功耗和足夠的內(nèi)存資源提供必要的性能,特別是對于在邊緣運行的大型型號。這就是模擬計算的用武之地,使公司能夠以更低的功耗和更小的外形獲得更高的性能,而且具有成本效益。
模擬計算已經(jīng)研究了幾十年,并提供了兩個主要優(yōu)勢。首先,它的效率驚人;通過利用存儲元件進行神經(jīng)網(wǎng)絡(luò)權(quán)重存儲和計算,它消除了數(shù)據(jù)移動。其次,它具有高性能和低延遲,使其適用于計算向量操作期間并行發(fā)生的數(shù)十萬個乘法累加運算。鑒于這兩個因素,模擬計算是滿足最新邊緣 AI 計算需求的理想選擇。
與數(shù)字相比,模擬的計算速度和功率效率長期以來一直很有希望。但是,除了開發(fā)這項技術(shù)的難以置信的困難之外,模擬計算的最大歷史障礙之一是其尺寸,模擬芯片和系統(tǒng)太大且成本太高。如今,將閃存和模擬計算相結(jié)合可以解決這些挑戰(zhàn),并且您獲得的總和遠遠大于單個部分 - 模擬內(nèi)存計算。這是Mythic花了數(shù)年時間完善并展示的獨特技術(shù),它為未來幾十年的AI計算奠定了基礎(chǔ)。
最低級別的模擬內(nèi)存計算(或模擬計算)的功耗優(yōu)勢在于能夠使用存儲在閃存陣列內(nèi)的參數(shù)執(zhí)行大規(guī)模并行矢量矩陣乘法。微小的電流通過存儲可重新編程的神經(jīng)網(wǎng)絡(luò)權(quán)重的閃存陣列進行引導(dǎo),并通過模數(shù)轉(zhuǎn)換器(ADC)捕獲結(jié)果。
通過將模擬計算用于絕大多數(shù)推理操作,模數(shù)和數(shù)模能量開銷可以作為整體功率預(yù)算的一小部分進行維護,并且可以實現(xiàn)計算能力的大幅下降。還有許多二階系統(tǒng)級效應(yīng)會導(dǎo)致功率大幅下降;例如,當(dāng)芯片上的數(shù)據(jù)移動量低幾個數(shù)量級時,系統(tǒng)時鐘速度可以保持比競爭系統(tǒng)低10倍,并且控制處理器的設(shè)計要簡單得多。
對于許多不同用例,將模擬計算處理器用于邊緣 AI 應(yīng)用是一個很好的選擇。例如,配備用于計算機視覺 (CV) 應(yīng)用的高清攝像頭的無人機需要在本地運行復(fù)雜的 DNN 模型,以便向控制站提供即時的相關(guān)信息。使用模擬計算的處理器可以提供強大的AI處理,并且非常節(jié)能,因此公司可以在無人機上部署這些網(wǎng)絡(luò),用于各種CV應(yīng)用。這些應(yīng)用包括監(jiān)測農(nóng)業(yè)產(chǎn)量,檢查關(guān)鍵基礎(chǔ)設(shè)施,如電力線、手機信號塔、橋梁和風(fēng)電場,檢查火災(zāi)損壞以及檢查海岸線侵蝕情況。模擬計算非常適合的另一種應(yīng)用類型是低延遲人體姿勢估計,可用于智能健身、游戲和協(xié)作機器人設(shè)備。
模擬計算是 AI 處理的理想方法,因為它能夠以更高的速度和更快的幀速率使用更少的功率運行。模擬計算技術(shù)的極高能效將使產(chǎn)品設(shè)計人員能夠在小型邊緣設(shè)備中解鎖令人難以置信的強大新功能,并有助于降低成本和企業(yè)AI應(yīng)用中的大量能源浪費。利用模擬計算能力與閃存相結(jié)合,OEM 可以重新思考 AI 的可能性。試想一下,如果沒有邊緣 AI 應(yīng)用程序功耗、成本和性能的現(xiàn)有限制,我們將看到哪些令人興奮的創(chuàng)新。
審核編輯:郭婷
-
人工智能
+關(guān)注
關(guān)注
1805文章
48893瀏覽量
247811 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5557瀏覽量
122633
發(fā)布評論請先 登錄
電機選型計算公式與知識點匯總
電機泥泵軸系系統(tǒng)扭振設(shè)計計算
一文帶你了解工業(yè)計算機尺寸

步進電機選型時必須要了解什么?
有MES系統(tǒng)還需要上MOM系統(tǒng)嗎?這些不同點你需要了解!

飛凌嵌入式-ELFBOARD-ELF 2硬件分享之前言
模擬計算板卡設(shè)計方案:429-基于XC7Z035+ADS5474的2路400Msps AD 光電脈沖采集處理卡

USB 3.2雙通道操作:您需要了解的內(nèi)容

不只是前端,后端、產(chǎn)品和測試也需要了解的瀏覽器知識(二)

【探討】DTAS尺寸公差分析與尺寸鏈計算邀您探索單孔銷浮動之奧秘(二),快來圍觀吧!
定華雷達知識講堂:雷達物位計選型需要了解的參數(shù)
不只是前端,后端、產(chǎn)品和測試也需要了解的瀏覽器知識

評論