AI與邊緣計算的崛起：技術變革的關鍵時刻

人工智能（AI）與邊緣計算正深刻改變我們的生活。從ChatGPT到Meta智能眼鏡，AI技術已成為日常不可或缺的一部分。然而，隨著AI應用場景的不斷擴展，傳統云計算在實時性、隱私保護和帶寬方面逐漸暴露出瓶頸。尤其是在自動駕駛、智慧醫療和工業自動化等領域，毫秒級的延遲可能導致關鍵決策失誤。邊緣計算應運而生，成為解決這些問題的關鍵技術。通過將數據處理移至更靠近數據源的設備端，邊緣計算實現了更低延遲、更高安全性和更高效率的AI計算模式。

這一技術轉型的核心驅動力是神經處理單元（Neural Processing Unit, NPU）的發展。NPU賦予小型化設備強大的計算能力，降低了數據傳輸的延遲與成本，同時提升了隱私安全性，使AI能夠在更多場景中落地。

視覺AI：改變世界的關鍵應用

視覺AI正在從醫療診斷到自動駕駛等領域廣泛應用，深刻影響著各大產業的運作模式。以下是視覺AI的主要應用場景：

- 智能監控：通過實時目標檢測、行為分析與入侵預警，提升城市安全。

- 智慧零售：分析顧客行為，優化購物體驗與銷售策略。

- 醫療影像分析：協助醫生進行疾病診斷，提高醫療準確性。

- 工業質檢：自動化檢測產品瑕疵，提升制造業質量與效率。

- 高級輔助駕駛系統（ADAS）：分析道路環境與障礙物，提升行車安全。

- 農業監測：監測作物健康狀況，優化農業管理。

- 自走車與機械手臂：應用于物流、制造業等場景，提升自動化水平。

- 無人機影像分析：進行地形測繪、災害評估與基礎設施檢查。

當AI與邊緣計算結合后，這些應用將變得更高效、更可靠，進一步貼近人們的實際需求。

i.MX 95：高性能邊緣計算平臺的技術突破

恩智浦（NXP）推出的i.MX 95應用處理器系列，以其強大的多核心架構，為高性能和實時應用提供了堅實基礎。該系列處理器配備六個Arm Cortex-A55核心、一個Arm Cortex-M7核心和一個Arm Cortex-M33核心，支持應用層、系統層和實時處理的卓越性能。

為了提升AI應用效率，i.MX 95系列整合了NXP的eIQ Neutron神經處理單元（NPU），提供高達2 TOPS（每秒萬億次運算）的計算能力。例如，在運行物體檢測模型YOLOv5時，處理單張圖片僅需約5毫秒，展現了極高的運算速度。此外，該系列還配備了先進的影像處理單元（ISP）和2D/3D圖形處理器（GPU），支持4K分辨率下每秒60幀的編解碼能力，確保圖像流的優化。

圖2 i.MX 95 方塊圖示意圖

豐富的接口支持多樣化應用場景

i.MX 95系列提供多種I/O接口，滿足不同應用需求：

MIPI-CSI：支持多個攝像頭的連接 (最高支持 8 路)，適用于高分辨率圖像采集，滿足先進的圖像處理和機器視覺應用需求。

以太網接口：配備 1 個 10GbE 和 2 個 Gb 以太網接口，支持時間敏感網絡(TSN)、音視頻橋接(AVB) 和 IEEE 1588 同步協議，確保高速且精確的數據傳輸，適用于工業自動化和車載網絡等需要高可靠性和低延遲的應用。

USB 接口：提供 1 個 USB 3.0 Type C 和 1 個 USB 2.0 Type C 接口，支持高速數據傳輸和多種外接設備，提升系統的擴展性和靈活性。

CAN FD 接口：具備 5 個 CAN FD 接口，適用于車輛和工業控制系統，提供可靠的通信能力，支持更高的數據速率和更高效的數據傳輸。

串行通信接口：支持 8 個 UART、8 個 I2C、8 個 SPI 和 2 個 I3C 接口，提供多樣化的通信選項，方便與各種傳感器、執行器和其他外圍設備的連接。

模數轉換器（ADC）：包含 1 個 8 通道、12 位ADC，適用于精確的模擬信號測量，如傳感器數據采集和監控應用。

FlexIO 接口：提供 2 個 32 引腳的 FlexIO 接口，可配置為 UART、SPI、I2C 和 I2S 等通信接口，增加系統設計的靈活性，滿足特定應用需求。

PCIe 接口：配備 2 個 PCIe Gen 3 通道，支持高速數據傳輸和擴展，適用于連接高性能外設，如高速存儲設備和網卡。

MIPI-DSI 顯示接口：支持高達 350 MHz 的 MIPI-DSI，采用四通道配置，每個通道的數據傳輸速率為 2.5 Gbps，能夠實現 4K 分辨率 (每秒 30 幀) 或 3840x1440 分辨率 (每秒 60 幀) 的顯示輸出，滿足高分辨率顯示需求。

LVDS 顯示接口：支持最高 1080p@60fps 的 LVDS 傳輸，可配置為 2 組 4 通道或 1 組 8 通道，提供靈活的顯示接口選項，滿足不同的顯示應用需求。

AI功能展示：從物體檢測到深度估計

基于i.MX 95的AI攝像頭或工業電腦，結合NPU、GPU和ISP技術，能夠實現多種AI功能，包括：

物體檢測(Object Detection)：識別并定位圖像中的各種物體。

肢體識別(Pose Estimation)：分析人體姿態，追蹤關鍵點位置。

物體分割(Object Segmentation)：將圖像中的物體從背景中分離出來。

工地安全帽檢測(Construction Helmet Detection)：確認工人是否佩戴安全帽。

車輛檢測(Vehicle Detection)：識別并追蹤車輛。

口罩檢測(Mask Detection)：判斷人員是否佩戴口罩。

水果檢測(Fruit Detection)：識別不同種類的水果。

人體特征點檢測(Human Keypoint Detection)：定位人體關鍵點。

手部骨架檢測(Hand Skeleton Detection)：追蹤手部關節位置。

深度估計(Depth Estimation)：估計圖像中物體與相機之間的距離。

這些功能以每秒30幀的速度處理影像，僅占用一個CPU核心，大幅減輕了系統負擔，滿足邊緣計算的高效需求。

推動AI計算平臺的未來發展

NXP通過 NXP (恩智浦) 在推動 人工智能(AI) 計算平臺方面展現了卓越的進步。通過 eIQ 能夠快速應用 TensorFlow、TensorFlow Lite、ONNX、Keras 等深度學習框架。如同下圖所示，只需將影像、聲音等相應的數據委托(Delegate) 給任意一個深度學習框架進行推理，即可快速解析神經網絡架構以獲得結果。而該框架將通過 Neutron Delegate 進行優化加速運算處理。經實際測試，YOLOv5s 目標檢測，推理速度約可達到每秒 190 幀 (FPS)。

圖4 NXP I.MX95 EVK深度學習應用示意圖

從 i.MX 8M Plus、i.MX 93 到最新的 i.MX 95 系列，性能提升顯著，特別是在物體檢測等常見 AI 應用中，運算速度大幅提高。即使在物理規格相近的情況下 i.MX 95 的神經處理單元(NPU)相比于 i.MX 8M Plus，運算速度更快。提升了近四倍。

圖5 i.MX 95 AI 性能示意圖

i.MX 95 系列處理器不僅具備強大的運算能力，還提供豐富且多樣化的 I/O 接口配置。這使開發者能夠靈活地連接各種外設，滿足不同應用場景的需求，提供高度的設計自由度和擴展性。實際應用中，這些處理器展現了極大的靈活性，可廣泛應用于物聯網(IoT)、工業 4.0、自動駕駛等領域。充分實現邊緣計算(Edge Computing) 的概念，創造更高的應用價值。

另外，NXP 為開發者提供了強大的工具，助力他們在各種創新應用中實現 AI 能力。

eIQ 工具包用于端到端模型開發和部署

eIQ模型水印技術

eIQ 示例

eiq模型庫

nxp-nnstreamer-示例

GUI 指南

由WPI提供的AI演示

WPI 提供的 ATU 模型庫

?展示板照片

?方案方塊圖

?核心技術優勢

◆ 搭配算力 2 TOPS 的 eIQ Neutron 神經處理器(Neural Processing Unit，NPU)，具備強大的機器學習推理能力。相比廣為人知的圖形處理器(Graphics Processing Unit，GPU)，更省電、效率更高，是專門為深度學習和人工智能設計的處理器！

◆ 獨立 SOM 開發板設計，并搭配強大的 NXP i.MX 95 芯片，可根據需求自由配置 I/O 接口，與 SOM 搭配使用。這種靈活性使開發者能夠針對特定應用場景設計符合需求的硬件平臺，充分發揮 i.MX 95 芯片的性能和功能。

◆ 結合 I/O 開發板能夠提供齊全的周邊配置。例如高清多媒體接口(HDMI)、低壓差分信號技術接口(LVDS)、以太網(Ethernet)、控制器局域網(CAN bus)、異步收發傳輸器(UART)、通用串行總線接口(USB Type A/C)、3.5 mm 耳機音頻接口、攝像頭數據傳輸接口(MIPI-CSI)、顯示數據傳輸接口(MIPI-DSI)、M.2 - PCIe 3.0 傳輸接口。

◆ 可快速上手應用 eIQ / PyeIQ 機器學習開發環境，提供 TensorFlow、TensorFlow Lite、ONNX、Keras、Pytorch 等多種深度學習框架的應用示例。

?方案規格

MPU (NXP i.MX95, MX95LPD5EVK-19CM) 核心規格：

◆ 強大的六核 Arm Cortex-A55 處理器，主頻高達 1.8 GHz

◆ eIQ Neutron 神經處理單元，性能高達 2 TOPS

◆ 雙圖像信號處理器(ISP)，支持 RGB-IR 格式

◆ 兩個 MIPI-CSI 攝像頭接口，用于視覺處理應用

◆ 強大的 3D/2D 圖形加速(Arm Mali-G310)

◆ 強大的視頻編碼器和解碼器，支持高達 4Kp60 幀率 (包括 JPEG、H.264 和 H.265)

◆ 高清顯示：MIPI-DSI 支持 4Kp30，LVDS 支持 1080p

◆ 內置 eMMC 5.1，存儲容量為 64GB

◆ 支持外部內存，數據速率高達 6.4 GT/s，32 位接口，支持 LPDDR5/LPDDR4X

MPU (NXP i.MX95, MX95LPD5EVK-19CM) I/O 規格：

◆ 1 個 10GbE + 2 個 Gb 以太網，支持 TSN、AVB 和 IEEE 1588 同步

◆ 1 個帶 PHY 的 USB 3.0 Type C + 1 個帶 PHY 的 USB 2.0 Type C

◆ 5 個 CAN FD 接口

◆ 8 個 UART，8 個 I2C，8 個 SPI，2 個 I3C

◆ 1 個 8 通道、12 位 ADC

◆ 2 個 32 針 FlexIO 接口

◆ 2 個 PCIe Gen 3 單通道接口

關注本文作者大大通博主：ATU 伊布小編 (一部)

了解MPU技術整合、深度學習、電腦視覺技術與人工智能（AI）的發展等更多相關內容！

歡迎登錄大聯大工程師社區——大大通，提問/評論，獲取技術文檔等更多資訊！