這像極了人工智能日益普及的今天,越來越多的終端設備依靠云端的“大神”(中心算力)實現各種智能功能,盡管看起來方便,但其實很多場景難免面臨各種問題和潛在隱患,甚至是各種事故風險。“邊緣端設備監測的各種數據通過網絡傳輸到云端,不僅可能帶來很多應用場景下不能容忍的延遲問題,還可能因為隱私數據的泄露導致嚴重的數據安全。”ADI公司資深業務經理李勇在最近的一次演講中表示。市場分析數據顯示,2020年中國邊緣計算市場規模為91億元,未來成長空間非常廣闊,預計到2030年中國邊緣計算市場規模將接近2500億元。
算力下沉
亟待邊緣智能賦能多類應用場景
根據Gartner預測,2025年將有75%的數據產生在數據中心和云之外并在邊緣側進行處理。邊緣計算在降低時延、帶寬需求、保護隱私數據等多方面的價值已經被廣泛認可,在產業數智化中的應用也不斷涌現。邊緣計算作為靠近數據源頭,融合了網絡、存儲、計算與應用能力的分布式計算平臺,可以對數據在本地進行實時分析處理,數據不必實時回傳至云端,縮短延時,減少網絡帶寬資源需求,確保應用安全高效運行。
“失火而取水于海,海水雖多,火必不滅矣,遠水不救近火也。”《韓非子·說林上》上這句話,簡單二十多字說明了一個樸素而重要的道理,即使在科技發展日新月異的今天依然有其現實意義。在智能應用中,因為時間敏感性而舍云端(遠)智能而用邊緣(近)智能的應用場景比比皆是。
例如森林火災監測,公路、鐵路或者是大壩塌方監測,這些地方都普遍比較偏僻,通常沒有很好的通信網絡,但快速決策和預警非常關鍵,因此必須進行邊緣端快速判定。“這種應用時間敏感性非常高,傳統的云端監測,可能需要發送一組圖片到云端,對網絡流量要求比較高。通過監測端自主智能識別,在狀況發生時只需要發短信息就可以快速實現安全告警,避免更嚴重的災害損失發生。” 李勇指出。
“這些應用除了需要邊緣端快速智能決策,對功耗敏感性也決定了需要進行邊緣端自主決策,任何一次更換電池的運維成本可能比設備本身更貴。”李勇道出了另外一個關鍵點。邊緣智能決策的好處是避免頻繁的數據傳輸、數據采集導致的高功耗,因此這也讓這些應用場景對邊緣智能方案的低功耗特性提出更高的要求,當前市場通用的MCU或FPGA的智能解決方案,在電池供電的低功耗邊緣端智能應用中依然面臨挑戰,市場需要更具超低功耗特性的新一代解決方案。
今年3·15晚會暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽器;2021年,某品牌攝像頭事件數萬條家庭偷拍視頻被傳播售賣;2021年家庭物聯網Pink事件,導致國內受控智能家居設備超過百萬。..。..近年來,隨著具備音頻監測和視頻監測功能的智能設備的普及,類似的信息安全事故層出不窮。“這些智能設備需要將邊緣端監測的數據傳到云端進行數據處理,沒有人希望家里有一個設備可能隨時通過畫面或語音監測你家里活動情況,你不能確定這些音頻和圖像數據是否會被別有用心的人所利用。”李勇指出。
讓智能從云端走向邊緣
這四大核心能力不可或缺
AI技術使機器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去,將AI推理布置到邊緣意味著從傳感器、攝像機和麥克風收集數據,然后將數據發送到云端實現推理算法,再將結果送回到邊緣。由于延遲和能耗較大,這種架構對于邊緣普及極具挑戰。作為替代方案,低功耗微控制器可用于實施簡單的神經網絡運算,但延遲會受到影響,且只能在邊緣執行簡單任務,對于更加復雜的邊緣智能如何落地?ADI集成神經網絡加速器的MAX78000低功耗微控制器通過獨特的架構設計提供了新的選擇,在算力、功耗、延遲和集成度等方面實現了關鍵性能的平衡,為機器視覺、面部識別、目標檢測和分類、時序數據處理和音頻處理等應用提供了一個理想選擇。在近日由電子發燒友網和ELEXCON 2022深圳國際電子展暨嵌入式系統展、第六屆中國系統級封裝大會暨展覽聯合主辦的第三屆中國人工智能卓越創新獎頒獎典禮上,MAX78000也榮獲“最具創新價值產品”。
邊緣智能的典型應用場景是聲音識別和圖像識別,而眾所周知,卷積神經網絡(CNN)是廣泛重視的一種高效識別方法。卷積神經網絡以其局部權值共享的特殊結構在模式識別方面有著獨特的優越性,CNN算法在人工智能之機器學習、語音識別、文檔分析、語言檢測和圖像識別等領域等有著廣泛應用。MAX78000的核心即是神經網絡加速器,它是針對語音和圖像識別專門設計的運算加速硬件,可以最大限度地減少卷積神經網絡的功耗和延遲。
“我們看到市場上有很多邊緣智能處理器實際上只是支持軟件的算法,而不是硬件實現加速。MAX78000采用了64個CNN處理器,并行的處理器可以支持最多的卷積預算層數和通道數。”李勇指出,“MAX78000的CNN加速器完全是專有的,而且非常新穎,它的設計目標是最小化數據移動,這是眾所周知的對芯片功耗的一個重大負擔,尤其是在處理CNN中復雜的配置時。”
此外,MAX78000還集成了兩個MCU核心用于系統控制,即Arm Cortex-M4處理器和32位RISC-V處理器,其中Arm Cortex-M4F處理器以100MHz運行,客戶可以編寫任何系統管理代碼,RISC-V處理器的獨特功能是支持以低功耗將數據快速加載到神經網絡加速器,用戶可使用任何一種微控制器內核將數據輸入到卷積神經網絡的引擎中。而MAX78000具有432KB的權重存儲空間,與運行在低功耗微控制器上的軟件解決方案相比,在配置并加載了數據后,MAX78000運行AI推理的速度快了100倍,功耗還不到其1%。
“低功耗是很多邊緣智能應用場景的關鍵要求,MAX78000除了基于CNN加速器和雙核處理器架構,還提供高效的片內電源管理,集成單電感多輸出 (SIMO) 開關模式電源,最大限度地延長電池供電的物聯網設備的續航時間。”李勇表示,“很多應用需要產品集成度高、體積小,基于MCU或GPU或FPGA的方案很可能放不進去,這些方案通常還需要片外存儲器、PMIC,方案無論成本、尺寸還是功耗都具有很大挑戰性。”
優化聲音識別和圖像識別應用
聚焦邊緣智能主賽道
5G與物聯網的發展以及各行業的智能化轉型升級帶來了爆發式的數據增長,而海量的數據將在邊緣側積累,建立在邊緣的數據分析與處理將成為智能市場增長的主力。“基于云計算的邊緣智能可能只適合一些大企業的應用,例如幾萬個、幾十萬個客戶來支持一個服務器,能夠支撐云端的成本。很多基本的控制應用,邊緣端的自主智能更具成本效應,也符合隱私保護的考慮。”李勇指出。
隨著數據規模的不斷擴大,云計算在時效性、傳輸距離、安全性等方面的不足使得其在工業制造、自動駕駛、遠程醫療等場景下明顯力不從心,邊緣側的重要性日益顯現。更靠近數據源的邊緣計算不僅能提供低時延、高可靠服務,還能同時保證數據安全、處理實時性。IDC預測,未來超過50%的數據需要在邊緣側進行儲存、分析和計算,這就對邊緣側的硬件系統提出了更高的要求。
邊緣智能中,聲音智能識別和圖像智能識別是其中最主要的應用領域,僅智能音箱2021年市場出貨量就達3896萬臺,各種基于人臉識別的智能門禁、考勤機、閘機應用層出不窮。“基于語音與人臉識別的邊緣智能是當前市場的重要領域,ADI的MAX78000針對這類應用從產品方案到工具優化以及生態上提供了豐富的支持。”李勇表示,“智能識別數據的收集和數學模型的建立跟訓練很重要,為此ADI提供了聲音識別和face ID 識別demo程序供客戶下載和學習,在其基礎上進行修改。我們也有非常有經驗的第三方生態伙伴,提供數學模型的訓練與數據的收集。”
據悉,MAX78000目前已經在森林防火監測、地質災害監測以及智能家居等領域獲得廣泛應用。“很多類似但并不涉及到公共安全的應用也需要實現本地快速智能決策,比如有用戶就針對摩托騎行愛好者希望在騎行中能對頭戴攝像頭實現隨時隨地的語音控制開發產品,類似的還有助聽器的語音控制、風力發電設備的安全監測這樣的預測性維護等等。”李勇補充道,“這種基于超低功耗硬件算力,高集成度、小尺寸且低成本的邊緣智能解決方案的推出,正在為越來越多的應用領域提供真正可行的智能賦能方案,我們看到類似的各種創新應用正在層出不窮地推出。”審核編輯:郭婷
-
FPGA
+關注
關注
1634文章
21824瀏覽量
607732 -
mcu
+關注
關注
146文章
17425瀏覽量
353806 -
電池
+關注
關注
84文章
10746瀏覽量
132050
原文標題:基于硬件加速的超低功耗邊緣智能,讓頭疼的“云端求助”走向本地自主化決策
文章出處:【微信號:analog_devices,微信公眾號:analog_devices】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
重新定義智能安防邊界——SSD2351如何讓邊緣計算更高效
AI賦能邊緣網關:開啟智能時代的新藍海
5g邊緣智能網關是什么
基于 DSP5509 進行數字圖像處理中 Sobel 算子邊緣檢測的硬件連接電路圖
引領智能邊緣未來,2024高通 移遠邊緣智能技術進化日圓滿落幕

引領智能邊緣未來,2024高通與移遠邊緣智能技術進化日圓滿落幕

挖掘基于邊緣無線協同感知的低功耗物聯網 LPIOT的巨大潛力

基于FPGA的實時邊緣檢測系統設計,Sobel圖像邊緣檢測,FPGA圖像處理
常見的傳統電源還能再戰智能邊緣時代嗎?

讓AI觸手可及丨2024高通&amp;美格智能邊緣智能技術進化日隆重舉行

芯品#MAX78002 新型AI MCU,能夠使神經網絡以超低功耗運行

評論