在2025年，人工智能(AI) 與邊緣計算(Edge Computing) 將迎來一個嶄新的里程碑。DeepX 推出了一款革命性的產品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具備高達 25 TOPS 的卓越運算性能，以及高準確度、低功耗、低溫度等性能表現。

通過結合 Orange Pi 5 Plus(Rockchip RK3588) 與 DeepX AI 加速卡，這套解決方案以極高性價比為基礎，能夠為工業電腦提供即插即用的便捷體驗，并以「平臺升級，迎接AI智能時代」為設計理念，助力開發者輕松邁向人工智能領域，為 AI 應用開啟了全新篇章。

圖1 基于 DeepX AI 加速卡結合 Rockchip RK3588 多路物體檢測解決方案優勢示意圖

同時，提供豐富的軟件資源與主流深度學習框架 ( 例如 TensorFlow、PyTorch 和 ONNX ) 的全面支持，無論是初學者還是專業人士，都能迅速掌握操作技巧，輕松完成 AI 模型的部署，讓更多人能夠參與其中。人工智能的應用開發中，促使創新變得更加觸手可及。

其中 邊緣計算(Edge Computing) 與 神經運算處理芯片(Neural Processing Unit, NPU) 將是掀起這項浪潮的關鍵指標得以將智能設備更貼近人們的日常生活。

AI技術的進一步發展，更多的創新應用將逐步落地，徹底重塑我們的日常應用，于以下領域：

智能監控：通過實時目標檢測、行為分析與入侵預警，強化城市安全與監控系統。

智慧零售：通過顧客行為分析與智能貨架管理，提升購物體驗，優化銷售策略。

醫療影像分析：運用 AI 協助醫生進行疾病診斷(如腫瘤檢測)，提高醫療準確性。

工業質檢：自動化檢測產品瑕疵，提高制造業質量管控與生產效率。

高級輔助駕駛系統(ADAS)：通過 AI 視覺技術，分析道路、行人等狀況，以實現行車安全的目標。

農業監測：監測作物健康狀況，檢測病蟲害，優化農業管理，提高產量和品質。

自走車：通過傳感器和 AI 算法，自主導航并避開障礙物，應用于物流、巡檢等多種場景。

機械手臂：結合 AI 與視覺系統，能精確地執行組裝、焊接等任務，提高生產效率和產品質量。

自動送餐系統：外賣平臺如 Uber Eats，正在美國多個城市部署由 Serve Robotics 開發的送餐機器人，這些機器人配備 AI 技術，能自主導航至顧客所在地，提供高效的送餐服務。

無人機影像分析：AI 驅動的視覺系統使無人機能夠進行地形物體檢測、災害評估和基礎設施檢查，提供高效的數據收集和分析。

圖2 AI應用方向示意圖，出處 ChatGPT 生成

另外，可以通過 DeepX 的卓越運算性能，可以輕松打造 多路(Multi-Streamer) 的物體檢測(Object Detection) 應用。無論是使用普通 USB 攝像頭，還是通過網絡流媒體來源，都能完美整合到各種智能場景中。由于目前 Orange Pi 5 Plus 的攝像頭極限大約為 16 路 480p 流媒體輸入，如果采用更高端的 NVR 作為主平臺，更能發揮出 DX-M1 的極限。因此，更能適用于小型商場、停車場、會展中心等商品防盜、車輛安全管控、人流統計等應用中。

圖3 多路物件檢測解決方案應用示意圖，出處 ChatGPT 生成

DeepX：引領智能新浪潮的造勢者

在邊緣計算浪潮中，DeepX 是韓國的一家初創公司，擁有約 240 多項智能專利。并在 CES 2024 一次榮獲嵌入式、機器人、電腦整合三項創新獎等大獎。甚至被美國消費者技術協會 (CTA)評為“必訪公司”，成為全球市場的焦點。

DeepX DX-M1 AI 加速卡強勢來襲，能夠提供每瓦 5 TOPS 的計算性能，擁有強大的邊緣計算能力 (25TOPS) 以及IQ8(Intelligent Quantization Integer 8) 獨有的量化技術，足夠媲美 GPU 的準確度，在擁有 INT8 的極致效率的同時也能享受到 FP32 準確度，實現無與倫比的 AI 精度。

其內置搭配 4 GB 的內存(DDR) 用于訪問模塊，不會占用主系統的資源，大幅度減輕系統集成的負擔。其卓越的性能表現成為智能監控、智慧醫療、智能制造等邊緣 AI 應用的唯一首選。

圖4 DeepX AI 芯片規格示意圖

軟件持續優化更新：打造最佳用戶體驗

DeepX 不僅擁有強大的硬件性能，并且打造了一個完整且友好的軟件生態系統，為開發者提供全方位的支持。其生態系統包含詳細的快速入門指南(Quick Start Guide)、功能強大的軟件開發工具包(SDK)、豐富的模型資源庫(Model Zoo)，以及多樣化的示例應用程序。這些資源能有效協助開發者迅速整合并優化 AI 模型的運行，縮短開發時間，同時提升應用性能，讓 AI 創新變得更加輕松實現。

軟件由三大核心組件構成，分別是量化器(Quantizer)、編譯器(DX-COM Compiler) 以及 運行時環境(DX-RT Runtime)，共同驅動旗下的 DeepX AI SoC 系列產品。這些組件相互協作，形成一個高效的人工智能計算平臺，為各種應用場景提供強大的支持。以下圖示范說明其架構：

圖5 DeepX 開發環境示意圖，出處官方文件

卓越的AI性能

利用 DeepX DX-M1 芯片運行當前最熱門的 YOLOv5s (640x640) 目標檢測算法，可輕松達到每秒約 330 張。

圖6 DeepX DX-M1 芯片性能數據表

下列表格是 GPU 與 DX-M1 的準確度分析，其中綠色字體表示 Full Precision 代表 GPU，藍色字體表示 IQ8 代表 DeepX NPU。

圖7 DeepX DX-M1與GPU準確度比較表，出處官方文件

豐富的 AI 應用

DeepX 致力于推動人工智能技術的普及，提供多樣化的 AI 示例與教學資源，循序漸進地引導開發者掌握 AI 應用的實現過程。通過示例，開發者不僅能深入了解人工智能的核心技術，還能學習如何將其靈活運用于實際場景，從而加速創新與技術落地。

圖8 DeepX 實際應用示意圖

場景應用圖

展示板照片

方案方塊圖

核心技術優勢

1. 采用 IQ8 (Intelligent Quantization Integer 8) 量化技術，媲美 GPU 的準確度：

DeepX 的 IQ8 技術需要配合數據集 (DataSet) 校正，即可輕松擁有 INT8 的極致效率的同時也能享受到 FP32 準確度，實現媲美 GPU 的 AI 準確度。

2. 不占用系統內存：

模塊采用獨立內存架構進行運作，其內建 4GB 存取容量，完全不依賴主系統的 RAM 資源，成功減輕了對系統整體性能的負擔。

3. 最佳數據流優化，最大限度減少數據移動：

采用數據傳輸流優化設計，將內存設計于加速卡中，能夠大幅度減少數據在主系統傳輸次數，從而顯著提升處理速度并大幅降低延遲。

4. 高性價比與低功耗解決方案：

將主平臺 Orange Pi 5 Plus 搭配 DeepX DX-M1 的 AI 芯片，即可無痛升級為更高階的 AI 平臺，每秒能夠運行約 480 幀 (YOLOv5s) 的物體檢測；且 DX-M1 擁有 5 TOPS/W 的性能表現，整套多路物體檢測解決方案僅耗電約 14 W。

5. 多路應用的新概念：

隨著邊緣計算技術的快速發展，若將其結合區域化的應用場景，或許能開創出一種創新且具成本效益的解決方案。通過使用易于獲取的攝像頭，搭配一臺智能工業主機以及 DeepX M.2 加速卡，便能實現多樣化的應用需求。

此外，前端的攝像頭還可根據實際需求進行靈活更換與配置，進一步提升系統的適應性與靈活性，為各個行業提供了更多可能性。

方案規格

1.主平臺開發板采用 RockChip RK3588 平臺為基礎，搭載四顆 Cortex-A76 處理器與四顆 Cortex-A55 處理器，并提供高性能圖像處理器 Arm Mali-G610 與神經運算處理器 NPU 等強大核心架構。

2.I/O Board 開發板提供強大的周邊配置，如千兆以太網（Gigabit Ethernet）、HDMI 高清多媒體接口、USB Type A/C 3.0 通用串行總線接口、M.2 E-Key 傳輸接口、M.2 M-Key 傳輸接口，并能夠通過擴展的 40 pin 針腳來模擬常用的 UART、I2C、SPI、CAN 等信號。

3.DeepX DX-M1 芯片提供強大的 AI 運算能力（25 TOPS），采用 PCIe Gen3 M.2 2280 M-Key 接口設計，搭載高性能的 DX-M1 芯片，展現出每瓦高達 5 TOPS 的卓越低功耗運算能力。此外，內置 4GB 動態隨機存取存儲器（DRAM），確保模塊訪問的高效性與穩定性。該加速卡全面支持 Linux 與 Windows 操作系統，并為開發者提供豐富的軟件資源，方便快速集成與應用。

參考網站：

DeepX 官網

DeepX DX-M1 產品介紹

DeepX 開發網站

Orange Pi 5 Plus網站

歡迎關注大大通博主：ATU 伊布小編 (一部)

了解MPU技術整合、深度學習、電腦視覺技術與人工智能（AI）的發展等更多相關內容！

登錄大大通網站查看原文：https://www.wpgdadatong.com.cn/reurl/viYnyi ，下載術文檔，了解更多資訊！