邊緣AI與與機器學習

2025貿澤電子技術創新論壇

2025年，隨著人工智能技術的快速發展，邊緣AI與機器學習市場迎來飛速增長，據Gartner預計，2025年至2030年，邊緣AI市場將保持23%的復合年增長率。

隨著物聯網裝置的普及、5G技術的推動以及技術融合、行業應用深化、算力提升與成本降低、以及各種因素共同推動了邊緣AI的發展。

為支持邊緣AI以及機器學習的應用與發展趨勢，貿澤電子聯合國際知名制造商，Amphenol、Analog Devices、NXP、Silicon Labs、Vicor等五家供應商，從算力、神經網絡、供電架構變化、高速信號連接等不同角度，闡述了各自特色方案以及最新的科技成果。

供應商方案選擇

1Analog Devices

基于邊緣低功耗的AI MCU

圖1：ADI 微控制器產品概覽
（圖源：ADI）

隨著物聯網設備爆發式增長，海量數據在邊緣側積累， 75%的數據將產生在邊緣，邊緣AI進入快速發展期。AI芯片作為實現邊緣AI的核心，是AI的硬件基礎。

近年來，Analog Devices致力于將人工智能推向邊緣端，實現ML/DL融入邊緣智能。邊緣AI在靠近用戶本地的終端邊緣執行AI運算，而不是將數據集中在云或數據中心進行處理，具備實時性好、帶寬資源要求低、隱私性高等優勢，應用于智能家居、人臉識別、語音控制等領域。

MAX7800X是ADI的經典產品， 具備獨特架構，采用兩個控制器內核（ARM Cortex-M4F、RISC-V）一個卷積神經網絡加速器。這一架構針對邊緣進行了高度優化，而AI推理由卷積神經網絡加速器專門負責，使AI推理可以無需聯網的前提下就在邊緣完成，以及微控制器內核在完成加載和啟動后就無需操作進而大幅降低功耗。

與基于微控制器的純軟件方案相比，ADI MAX7800X方案具備更高的數據吞吐量，速度提高了100倍，成本僅是FPGA或GPU解決方案的1/10。以及相比于傳統MCU加DSP的方案，ADI方案的功耗是該方案的百分之一。

因此，ADI可以在功耗、速度、成本三個方面達成最優的平衡，加上其小尺寸的優勢，是邊緣AI應用的理想選擇。MAX7800X的應用領域主要在視覺識別、聲音識別、監測識別等三方面。

除了AI專用MCU，ADI還具有更廣泛的通用MCU產品系列，包括：安全MCU、低功耗MCU以及低功耗藍牙MCU。MAX32660低功耗MCU可用于收集掃地機器人的傳感器數據。由于其低功耗特性，可以延長掃地機器人的電池使用時間，減少充電頻率，提升用戶體驗。同時，其高集成度可以減少掃地機器人內部的組件數量，從而簡化硬件設計，降低應用成本?。

2NXP

具有機器學習功能的MCU

圖2：NXP 邊緣計算平臺（圖源：NXP）

AI與邊緣計算正深刻改變我們的生活，然而，隨著AI應用場景的不斷擴展，傳統云計算在實時性、隱私保護和帶寬方面逐漸暴露出瓶頸，毫秒級的延遲可能導致重要決策失誤。邊緣計算應運而生，成為解決這些問題的技術關鍵。

通過將數據處理移至更靠近數據源的設備端，邊緣計算實現了更低延遲、更高安全性和更高效率的AI計算。這一技術轉型的核驅動力之一就是具有機器學習功能的微控制器，賦予小型化設備強大的計算能力，降低了數據傳輸的延遲與成本，同時提升了隱私安全性，使AI能夠在更多場景中落地。

i.MX RT系列是NXP推出的全球首款跨界MCU，把應用在簡單、實時性要求較高場合的MCU，與具備更為全面的拓展性，可以進行更為復雜運算的MPU的特點相結合，使其兼具應用處理器的高集成度、擴展性和高性能，以及微控制器的易用性、低功耗和實時性，從而實現MCU和MPU的優勢互補，打破原先MCU和MPU的界限。

基于i.MX RT系列的強大性能，擴寬了傳統MCU應用領域的疆界，使得原先只能使用MPU的應用領域也能對i.MX RT系列開放，所以從這個角度來說，i.MX RT系列重新定義了MCU，該系列產品可廣泛應用于數字消費、樓宇智能、電機缺相檢測、物體檢測等領域。

MCXN947微控制器，采用兩個Arm Cortex-M33內核，主頻150MHz，此外還為CM33配備了DSP協處理器；除了CM33核外，還有兩個專用的處理單元，分別是NXP自研的NPU N1-16和Coolflux BSP32。內部搭載了2MB的Flash，雙Bank設計，能支持同時讀寫以及512K SRAM支持ECC，其FlexSPI控制器能夠連接外部串行NOR/NAND，極大地擴展了容量上限。其NPU能夠提供高達30倍的機器學習吞吐量提升，從而減少系統喚醒的時間，并且降低整體功耗。

MCXN947的ML性能可以勝任復雜的深度學習模型，例如人臉識別或語音識別功能、配備生物傳感器的智能可穿戴設備等。在多人臉識別應用中，基于MCXN947方案，通過攝像頭采集圖像，顯示在屏幕中，并利用NPU進行機器學習運算，識別人臉信息，并通過方框展示。在多人體檢測方案中，基于MCXN947方案，可以從攝像頭啊啊獲取圖像并顯示在LCD屏幕上，然后使用集成的NPU處理和識別人員信息。

NXP還提供了eIQ深度學習軟件開發環境，包括構建和優化云訓練ML模型所需的工具，可在資源受限的邊緣節點設備中高效運行。具有專門面向語音、視覺和異常檢測應用領域，完整的、接近量產的解決方案。eIQ可提供開發人員在邊緣設備中實施ML所需的構件塊。

NXP的eIQ的ML不斷發展，持續進行擴展以包括下列功能：數據采集和管理工具；適用于神經網絡框架和推理引擎的模型轉換功能，例如TensorFlow Lite、Caffe2、CNTK和Arm NN；并支持NN編譯器，以及在NXO異構的嵌入式處理器上部署處理模型的工具。

3Silicon Labs

構建邊緣AI的嵌入式技術

圖3：Silicon Labs 無線SoC方案（圖源：Silicon labs）

AI與物聯網的加速融合是大勢所趨，支持AIoT的嵌入式控制器可以使設備在邊緣實時地收集、分析和處理數據，而無需來回與物聯網網絡進行連接，從而提高效率，節省資源，并增強安全性。

隨著AI大模型、邊緣計算等應用快速發展，對邊緣設備、終端設備的本地處理能力提出了越來越高的要求，這就使得算力開始從云端向設備端下沉，在設備中加入AI功能成為廠商日益迫切的需求。面對這些挑戰，Silicon Labs推出了多款技術方案，可以滿足當前和未來物聯網邊緣設備與終端設備的處理能力要求。

xG24、xG26等多款SoC和MCU中集成了專用的人工智能/機器學習加速器，實現了處理速度和能效的顯著提升。

在安全性方面， Silicon Labs獲得PSA 3級認證的Secure Vault安全技術和ARM TrustZone技術相結合，可以為芯片構建最高級別的安全性，能夠有效防止數據泄露、非法獲取和模型篡改等安全問題發生。

BG24低功耗藍牙SoC 是低功耗電池供電設備的理想選擇，可提供低功耗、卓越的無線電性能和先進的安全功能，并支持使用AoA、AoD和信道探測進行藍牙方向查找，以實現精確的方向查找和距離測量。

BG24具有強大的處理能力和內存容量，可滿足復雜RTLS應用的需求，同時滿足未來的功能要求。BG24專為需要長時間運行而不頻繁充電的電池供電設備而設計。

通過支持藍牙測向功能，BG24可以確定來自多個天線的輸入信號的方向和距離，從而實現設備的精確定位。此外，BG24還通過 Secure Vault 充分利用行業領先的安全功能，確保用戶安全和保護RTLS 系統內的數據完整性。

MG26 SoC采用多核ARM Cortex-M33 CPU實現了更高的計算性能，可以為射頻與安全子系統提供專用內核，有助于為客戶應用釋放出主內核。

MG26使用其嵌入式加速器實現了AI/ML功能，進一步增強了在預測性維護、異常檢測、關鍵詞檢測、視覺以及越來越多的跨物聯網應用等關鍵任務中的性能。

與MG24系列產品相比，閃存、RAM和GPIO容量都增加了一倍，可以支持物聯網設備制造商開發先進的邊緣應用，利用更大、更精確的機器學習模型來提高性能。MG26還支持處理更大的機器學習工作負載，如更高分辨率的視覺。其嵌入式AI/ML硬件加速功能使機器學習算法的處理速度提高了8倍，與在CPU上運行同樣應用相比，功耗僅需1/6。

Silicon Labs還提供完整的SoC開發工具，xG24 EFR32BG24藍牙無線SoC開發套件，緊湊、功能豐富的開發平臺，設計用于支持EFR32無線Gecko片上系統，支持Matter、Zigbee、低功耗藍牙、藍牙網狀網絡、專有和多協議操作并提供PSA 3級Secure Vault安全保護，同時推出AI和機器學習軟件，以幫助開發人員實現AI/ML在物聯網邊緣設備上的應用。

結語

隨著數據的處理需求與復雜性也隨之上升，傳統的云計算模式，因延遲性、帶寬限制及隱私保護等方面等問題，已難以滿足實時數據處理的要求。

在此背景下，邊緣AI作為一種將AI算法與機器學習模型直接部署于邊緣設備上的方案，有效彌補了傳統云計算模式的瓶頸。

相較于傳統云計算需要將數據上傳至云端再進行處理的過程，邊緣AI憑借其將計算與推斷能力部署在更接近數據源的優勢，能夠更迅速、更安全地提供數據處理與決策能力，同時強化了對數據隱私的保護。這些特性使得人工智能技術能夠更加流暢、自然地融入各類邊緣設備及多元化的應用場景之中，具有更大的發展潛力。