隨著人工智能 (AI) 和深度學(xué)習(xí)應(yīng)用在越來越多的行業(yè)中變得越來越普遍,對更好的性能、更大的深度神經(jīng)網(wǎng)絡(luò) (DNN) 模型容量和更低功耗的需求變得越來越重要。
與此同時,DNN 模型正在以指數(shù)級的速度增長。對于這些型號,傳統(tǒng)數(shù)字處理器難以以足夠低的功耗和足夠的內(nèi)存資源提供必要的性能,特別是對于在邊緣運(yùn)行的大型型號。這就是模擬計(jì)算的用武之地,使公司能夠以更低的功耗和更小的外形獲得更高的性能,而且具有成本效益。
模擬計(jì)算已經(jīng)研究了幾十年,并提供了兩個主要優(yōu)勢。首先,它的效率驚人;通過利用存儲元件進(jìn)行神經(jīng)網(wǎng)絡(luò)權(quán)重存儲和計(jì)算,它消除了數(shù)據(jù)移動。其次,它具有高性能和低延遲,使其適用于計(jì)算向量操作期間并行發(fā)生的數(shù)十萬個乘法累加運(yùn)算。鑒于這兩個因素,模擬計(jì)算是滿足最新邊緣 AI 計(jì)算需求的理想選擇。
與數(shù)字相比,模擬的計(jì)算速度和功率效率長期以來一直很有希望。但是,除了開發(fā)這項(xiàng)技術(shù)的難以置信的困難之外,模擬計(jì)算的最大歷史障礙之一是其尺寸,模擬芯片和系統(tǒng)太大且成本太高。如今,將閃存和模擬計(jì)算相結(jié)合可以解決這些挑戰(zhàn),并且您獲得的總和遠(yuǎn)遠(yuǎn)大于單個部分 - 模擬內(nèi)存計(jì)算。這是Mythic花了數(shù)年時間完善并展示的獨(dú)特技術(shù),它為未來幾十年的AI計(jì)算奠定了基礎(chǔ)。
最低級別的模擬內(nèi)存計(jì)算(或模擬計(jì)算)的功耗優(yōu)勢在于能夠使用存儲在閃存陣列內(nèi)的參數(shù)執(zhí)行大規(guī)模并行矢量矩陣乘法。微小的電流通過存儲可重新編程的神經(jīng)網(wǎng)絡(luò)權(quán)重的閃存陣列進(jìn)行引導(dǎo),并通過模數(shù)轉(zhuǎn)換器(ADC)捕獲結(jié)果。
通過將模擬計(jì)算用于絕大多數(shù)推理操作,模數(shù)和數(shù)模能量開銷可以作為整體功率預(yù)算的一小部分進(jìn)行維護(hù),并且可以實(shí)現(xiàn)計(jì)算能力的大幅下降。還有許多二階系統(tǒng)級效應(yīng)會導(dǎo)致功率大幅下降;例如,當(dāng)芯片上的數(shù)據(jù)移動量低幾個數(shù)量級時,系統(tǒng)時鐘速度可以保持比競爭系統(tǒng)低10倍,并且控制處理器的設(shè)計(jì)要簡單得多。
對于許多不同用例,將模擬計(jì)算處理器用于邊緣 AI 應(yīng)用是一個很好的選擇。例如,配備用于計(jì)算機(jī)視覺 (CV) 應(yīng)用的高清攝像頭的無人機(jī)需要在本地運(yùn)行復(fù)雜的 DNN 模型,以便向控制站提供即時的相關(guān)信息。使用模擬計(jì)算的處理器可以提供強(qiáng)大的AI處理,并且非常節(jié)能,因此公司可以在無人機(jī)上部署這些網(wǎng)絡(luò),用于各種CV應(yīng)用。這些應(yīng)用包括監(jiān)測農(nóng)業(yè)產(chǎn)量,檢查關(guān)鍵基礎(chǔ)設(shè)施,如電力線、手機(jī)信號塔、橋梁和風(fēng)電場,檢查火災(zāi)損壞以及檢查海岸線侵蝕情況。模擬計(jì)算非常適合的另一種應(yīng)用類型是低延遲人體姿勢估計(jì),可用于智能健身、游戲和協(xié)作機(jī)器人設(shè)備。
模擬計(jì)算是 AI 處理的理想方法,因?yàn)樗軌蛞愿叩乃俣群透斓膸俾适褂酶俚墓β蔬\(yùn)行。模擬計(jì)算技術(shù)的極高能效將使產(chǎn)品設(shè)計(jì)人員能夠在小型邊緣設(shè)備中解鎖令人難以置信的強(qiáng)大新功能,并有助于降低成本和企業(yè)AI應(yīng)用中的大量能源浪費(fèi)。利用模擬計(jì)算能力與閃存相結(jié)合,OEM 可以重新思考 AI 的可能性。試想一下,如果沒有邊緣 AI 應(yīng)用程序功耗、成本和性能的現(xiàn)有限制,我們將看到哪些令人興奮的創(chuàng)新。
審核編輯:郭婷
-
人工智能
+關(guān)注
關(guān)注
1799文章
47959瀏覽量
241221 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5523瀏覽量
121711
發(fā)布評論請先 登錄
相關(guān)推薦
飛凌嵌入式-ELFBOARD-ELF 2硬件分享之前言
模擬計(jì)算板卡設(shè)計(jì)方案:429-基于XC7Z035+ADS5474的2路400Msps AD 光電脈沖采集處理卡

USB 3.2雙通道操作:您需要了解的內(nèi)容

不只是前端,后端、產(chǎn)品和測試也需要了解的瀏覽器知識(二)

定華雷達(dá)知識講堂:雷達(dá)物位計(jì)選型需要了解的參數(shù)
不只是前端,后端、產(chǎn)品和測試也需要了解的瀏覽器知識

如何利用憶阻器技術(shù)改變高精度的科學(xué)計(jì)算
選擇貼片電容時需要了解哪些問題?
固態(tài)繼電器(SSR)您需要了解的一切

關(guān)于ESS和BMS,您需要了解的一切

評論