您在嵌入式設(shè)備中實(shí)施人工智能模型時(shí)是否遇到困難?本篇文章將為您介紹DRP-AI TVM,它簡(jiǎn)化了AI模型的實(shí)現(xiàn)。
近年來(lái),人工智能已經(jīng)在監(jiān)控?cái)z像頭、交通監(jiān)控系統(tǒng)、機(jī)器人和無(wú)人機(jī)等嵌入式設(shè)備中得到實(shí)施。與云環(huán)境不同,嵌入式設(shè)備在實(shí)現(xiàn)人工智能方面有很多困難,比如要考慮HW性能、成本和功率限制。通過(guò)使用RZ/V系列AI-MPU和瑞薩的低功耗AI加速器DRP-AI,可以解決大部分HW實(shí)施的挑戰(zhàn)。
當(dāng)客戶在我們的AI-MPU上實(shí)現(xiàn)AI模型時(shí),他們使用DRP-AI翻譯器,將AI模型轉(zhuǎn)換為DRP-AI可執(zhí)行文件,但一些客戶指出,這很難實(shí)現(xiàn),有兩個(gè)主要原因:
01
DRP-AI翻譯器支持的唯一AI模型格式是ONNX。
02
如果模型包含DRP-AI翻譯器不支持的運(yùn)算符,則不可能進(jìn)行轉(zhuǎn)換。
到目前為止,瑞薩一直要求客戶自行處理此類情況,這對(duì)一些客戶來(lái)說(shuō)是一種負(fù)擔(dān)。我們相信,解決這些問(wèn)題將提高客戶的便利性,并發(fā)布了新的DRP-AI TVM。
DRP-AI TVM是一個(gè)開源的ML編譯器Apache TVM,支持DRP-AI。自動(dòng)將DRP-AI翻譯器不支持的操作者分配給CPU,使其更容易支持更多的AI模型。它還可以處理ONNX以外的AI框架格式。此外,DRP-AI能夠以與傳統(tǒng)DRP-AI翻譯流程相同的方式處理AI推理的預(yù)處理,從而提高包括預(yù)處理在內(nèi)的總的AI性能。
DRP-AI TVM的配置

用DRP-AI TVM對(duì)AI模型操作員
進(jìn)行自動(dòng)CPU分配

DRP-AI TVM可在GitHub上使用,方便客戶訪問(wèn)。GitHub包含教程、示例代碼、各種人工智能模型的性能評(píng)估結(jié)果以及其他足以讓客戶使用產(chǎn)品的信息。這些教程包括在瑞薩評(píng)估板上從構(gòu)建環(huán)境到推理的步驟,客戶可以通過(guò)這些步驟輕松評(píng)估他們的人工智能模型。瑞薩將繼續(xù)改善用戶體驗(yàn),使客戶更容易使用瑞薩的產(chǎn)品。
參考資料
01
DRP-AI TVM由Edgecortix MERATM編譯器框架提供支持,DRP-AI的更多內(nèi)容請(qǐng)點(diǎn)擊文末閱讀原文查看介紹頁(yè)
02
Apache TVM網(wǎng)站
https://tvm.apache.org/
03
RZ/V系列介紹
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus
04
Renesas info wiki RZ/V系列
https://renesas.info/wiki/RZ-V
05
DRP-AI TVM GitHub
https://github.com/renesas-rz/rzv_drp-ai_tvm
06
DRP-AI TVM教程
https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm
07
EVK購(gòu)買鏈接:
? RZ/V2L評(píng)估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit
? RZ/V2M評(píng)估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit
? RZ/V2MA評(píng)估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit
1
END
1
瑞薩電子 (TSE: 6723)
科技讓生活更輕松,致力于打造更安全、更智能、可持續(xù)發(fā)展的未來(lái)。作為全球微控制器供應(yīng)商,瑞薩電子融合了在嵌入式處理、模擬、電源及連接方面的專業(yè)知識(shí),提供完整的半導(dǎo)體解決方案。成功產(chǎn)品組合加速汽車、工業(yè)、基礎(chǔ)設(shè)施及物聯(lián)網(wǎng)應(yīng)用上市,賦能數(shù)十億聯(lián)網(wǎng)智能設(shè)備改善人們的工作和生活方式。更多信息,敬請(qǐng)?jiān)L問(wèn)renesas.com
原文標(biāo)題:工程師說(shuō) | 引入DRP-AI TVM以簡(jiǎn)化AI模型的實(shí)施
文章出處:【微信公眾號(hào):瑞薩電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
瑞薩
+關(guān)注
關(guān)注
36文章
22356瀏覽量
87597
原文標(biāo)題:工程師說(shuō) | 引入DRP-AI TVM以簡(jiǎn)化AI模型的實(shí)施
文章出處:【微信號(hào):瑞薩電子,微信公眾號(hào):瑞薩電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗(yàn)】+ 入門篇學(xué)習(xí)
海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開發(fā)
嵌入式AI加速器DRP-AI 詳細(xì)介紹

Banana Pi 與瑞薩電子攜手共同推動(dòng)開源創(chuàng)新:BPI-AI2N
訓(xùn)練好的ai模型導(dǎo)入cubemx不成功怎么處理?
FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......
C#集成OpenVINO?:簡(jiǎn)化AI模型部署

AI開發(fā)平臺(tái)模型怎么用
企業(yè)AI模型部署攻略
《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得
下一代高功能新一代AI加速器(DRP-AI3):10x在高級(jí)AI系統(tǒng)高級(jí)AI中更快的嵌入處理

評(píng)論