深度神經網絡中使用的人工智能(AI)已經為IT領域提供了新的價值。雖然很多人期望用AI來實現嵌入式應用,但AI處理需要很多計算,由于性能不足或功耗需求大,很難適應使用CPU或GPU的傳統解決方案的嵌入式設備。此外,人工智能正在不斷發展,新的算法不時被開發出來。
在人工智能快速發展的過程中,瑞薩開發了人工智能加速器(DRP-AI)和軟件(DRP-AI翻譯器),既提供高性能又提供低功耗,并具有應對演變的能力。結合DRP-AI和DRP-AI翻譯器,使AI推理成為可能,具有高功率效率,這是當前AI技術無法支持的。
AI模型可以隨著DRP-AI翻譯器的不斷更新而擴展。
DRP-AI的特點
DRP-AI由AI-MAC(multiply-accumulate processor)和DRP(reconfigurable processor)組成。通過為卷積層和全連接層上的操作分配AI-MAC,并為預處理和池化層等其他復雜處理分配DRP,可以高速執行AI處理。
AI 加速器 DRP - AI 是瑞薩電子研發的一款動態可重構處理器(Dynamically Reconfigurable Processor),它將出色的能效與強大的靈活性集于一身,主要應用于嵌入式系統的 AI 推理。下面為你詳細介紹其關鍵信息:
核心技術特性
- 架構設計
- DRP - AI 由 AI - MAC(乘加處理器)和 DRP(可重構處理器)兩部分構成。AI - MAC 專門負責卷積層和全連接層的運算,而 DRP 則承擔預處理、池化層等復雜處理任務。
- 該架構能夠實現端到端的 AI 處理,把預處理、推理和后處理都集成到硬件中,從而降低了對 CPU 的依賴,提升了整體處理效率。
- 卓越性能與能效
- 最新的 DRP - AI3 版本表現尤為突出,能效可達 10TOPS/W,推理性能最高能達到 15TOPS(如 RZ/V2N),相比前代產品,處理速度提升了 10 倍。
- 以 RZ/V2L 為例,其能效為 1TOPS/W,能夠以每秒 28 幀的速度運行 Tiny YOLOv2 模型。
- 靈活適配能力
- 借助 DRP - AI Translator 和 DRP - AI TVM 工具,DRP - AI 可以支持多種 AI 框架,包括 ONNX、PyTorch、TensorFlow 等,并且能夠動態適配不斷更新的 AI 算法。
- 借助 DRP - AI Translator 和 DRP - AI TVM 工具,DRP - AI 可以支持多種 AI 框架,包括 ONNX、PyTorch、TensorFlow 等,并且能夠動態適配不斷更新的 AI 算法。
有關DRP-AI的更多詳細技術信息,
請參閱以下白色文件。白色白皮書:嵌入式AI加速器DRP-AI(PDF|中文(簡體)*附件:嵌入式ai加速器DRP-AI.pdf
雖然大多數AI加速器只專注于AI推理,并依賴CPU進行預處理和后處理,但DRP-AI將預處理和后處理以及AI推理集成到單個DRP-AI硬件中,以實現上級AI處理性能。
工具:DRP-AI TVM^* 一個^
DRP-AI TVM是一種工具,可用于將訓練的AI模型轉換為可以在DRP-AI上運行的格式。DRP-AI TVM將DRP-AI加速器應用于經過驗證的ML編譯器框架Apache TVM*2。這支持多個AI框架(ONNX,PyTorch,TensorFlow等)。此外,它還可以與CPU一起運行,允許運行更多的AI模型。
DRP-AI TVM支持的AI模型格式和產品(MPU)如下。
- 輸入文件格式(訓練的AI模型):ONNX、PyTorch、TensorFlow
- 產品:RZ/V2 M,RZ/V2 MA,RZ/V2 L,RZ/V2 H,RZ/V2 N
下表顯示了DRP-AI TVM的下載站點、工具的簡要描述和可交付成果的信息。
RZ/V2M、RZ/V2MA | RZ/V2L | RZ/V2H、RZ/V2N |
---|---|---|
工具摘要說明 | DRP-AI TVM說明頁(瑞薩網站) | |
工具詳解入門示例代碼AI評測軟件 | DRP-AI TVM(GitHub) | DRP-AI TVM解釋頁面(GitHub.IO) |
DRP-AI驅動程序 | 包含在DRP-AI支持包中 | 在AI SDK中可用 |
Linux | 在Linux軟件包中可用 |
軟件:DRP-AI支持包
DRP-AI支持包提供了操作DRP-AI所需的驅動程序和指南。立即下載DRP-AI,體驗從開放軟件到設備實現的無縫AI開發。
(注1)DRP-AI TVM由EdgeCortix MERATM架構提供支持(注2)有關Apache TVM的更多信息,請參閱https://tvm.apache.org
軟件與工具
? RZ/V2H AI Software Development Kit
? RZ/V series AI Apps & AI SDK (GitHub)
? DRP-AI Extension Pack (Pruning Tool)
? DRP-AI Translator i8 [V1.04]
? RZ/V2H ROS2 Sample Application Package
下載
? RZ/V Getting Started with Flexible Software Package
? Setting GPIO with Flexible Software Package
? RZ/V FSP v3.1.0
? RZ MPU Graphics Library Evaluation Version for RZ/V2
? RZ MPU Security Package (Linux OS)
-
嵌入式
+關注
關注
5106文章
19295瀏覽量
310309 -
AI
+關注
關注
87文章
32505瀏覽量
271764
發布評論請先 登錄
相關推薦
嵌入式AI平臺有哪些?
介紹一下一款簡單易用的嵌入式AI方案
嵌入式邊緣AI應用開發指南
《 AI加速器架構設計與實現》+第2章的閱讀概括
嵌入式神經網絡加速器的市場需求將持續增加
什么是AI加速器 如何確需要AI加速器
工程師說 | 引入DRP-AI TVM以簡化AI模型的實施

基于瑞薩RZ/V2L MPU AI解決方案

瑞薩發布下一代動態可重構人工智能處理器加速器
下一代高功能新一代AI加速器(DRP-AI3):10x在高級AI系統高級AI中更快的嵌入處理

評論