在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

嵌入式邊緣AI應用開發簡化指南

電子設計 ? 來源:電子設計 ? 作者:電子設計 ? 2022-06-30 17:01 ? 次閱讀

如果在沒有嵌入式處理器供應商提供的合適工具和軟件的支持下,既想設計高能效的邊緣人工智能(AI)系統,同時又要加快產品上市時間,這項工作難免會冗長乏味。面臨的一系列挑戰包括選擇恰當的深度學習模型、針對性能和精度目標對模型進行訓練和優化,以及學習使用在嵌入式邊緣處理器上部署模型的專用工具。

從模型選擇到在處理器上部署,TI可免費提供相關工具、軟件和服務,為您深度神經網絡(DNN)開發工作流程的每一步保駕護航。下面讓我們來了解如何不借助手動工具或手動編程來選擇模型、隨時隨地訓練模型并將其無縫部署到TI處理器上,從而實現硬件加速推理。

pYYBAGK9VtKABwXwAAApWwIoSP0656.jpg

圖1:邊緣AI應用的開發流程

第1步:選擇模型

邊緣AI系統開發的首要任務是選擇合適的DNN模型,同時要兼顧系統的性能、精度和功耗目標。GitHub上的TI邊緣AI Model Zoo等工具可助您加速此流程。

Model Zoo廣泛匯集了TensorFlow、PyTorch和MXNet框架中常用的開源深度學習模型。這些模型在公共數據集上經過預訓練和優化,可以在TI適用于邊緣AI的處理器上高效運行。TI會定期使用開源社區中的新模型以及TI設計的模型對Model Zoo進行更新,為您提供性能和精度經過優化的廣泛模型選擇。

Model Zoo囊括數百個模型,TI模型選擇工具(如圖2所示)可以幫助您在不編寫任何代碼的情況下,通過查看和比較性能統計數據(如推理吞吐量、延遲、精度和雙倍數據速率帶寬),快速比較和找到適合您AI任務的模型。

poYBAGK9VtWASGZAAACA_uYtv_0551.png

圖2:TI模型選擇工具

第2步:訓練和優化模型

選擇模型后,下一步是在TI處理器上對其進行訓練或優化,以獲得出色的性能和精度。憑借我們的軟件架構和開發環境,您可隨時隨地訓練模型。

從TI Model Zoo中選擇模型時,借助訓練腳本可讓您在自定義數據集上為特定任務快速傳輸和訓練模型,而無需花費較長時間從頭開始訓練或使用手動工具。訓練腳本、框架擴展和量化感知培訓工具可幫助您優化自己的DNN模型。

第3步:評估模型性能

在開發邊緣AI應用之前,需要在實際硬件上評估模型性能。

TI提供靈活的軟件架構和開發環境,您可以在TensorFlow Lite、ONNX RunTime或TVM和支持Neo AI DLR的SageMaker Neo運行環境引擎三者中選擇習慣的業界標準PythonC++應用編程接口(API),只需編寫幾行代碼,即可隨時隨地訓練自己的模型,并將模型編譯和部署到TI硬件上。在這些業界通用運行環境引擎的后端,我們的TI深度學習(TIDL)模型編譯和運行環境工具可讓您針對TI的硬件編譯模型,將編譯后的圖或子圖部署到深度學習硬件加速器上,并在無需任何手動工具的情況下實現卓越的處理器推理性能。

在編譯步驟中,訓練后量化工具可以自動將浮點模型轉換為定點模型。該工具可通過配置文件實現層級混合精度量化(8位和16位),從而能夠足夠靈活地調整模型編譯,以獲得出色的性能和精度。

不同常用模型的運算方式各不相同。同樣位于GitHub上的TI邊緣AI基準工具可幫助您為TI Model Zoo中的模型無縫匹配DNN模型功能,并作為自定義模型的參考。

評估TI處理器模型性能的方式有兩種:TDA4VM入門套件評估模塊(EVM)或TI Edge AI Cloud,后者是一項免費在線服務,可支持遠程訪問TDA4VM EVM,以評估深度學習推理性能。借助針對不同任務和運行時引擎組合的數個示例腳本,五分鐘之內便可在TI硬件上編程、部署和運行加速推理,同時收集基準測試數據。

第4步:部署邊緣AI應用程序

您可以使用開源Linux?和業界通用的API來將模型部署到TI硬件上。然而,將深度學習模型部署到硬件加速器上只是難題的冰山一角。

為幫助您快速構建高效的邊緣AI應用,TI采用了GStreamer框架。借助在主機Arm?內核上運行的GStreamer插件,您可以自動將計算密集型任務的端到端信號鏈加速部署到硬件加速器和數字信號處理內核上。

圖3展示了適用于邊緣AI的Linux Processor SDK的軟件棧和組件。

poYBAGK9VtiANjlmAABs7NMzZc4074.png

圖3:適用于邊緣AI的Linux Processor SDK組件

結語

如果您對本文中提及的工具感到陌生或有所擔憂,請放寬心,因為即使您想要開發和部署AI模型或構建AI應用,也不必成為AI專家。TI Edge AI Academy能夠幫助您在自學、課堂環境中通過測驗學習AI基礎知識,并深入了解AI系統和軟件編程。實驗室提供了構建“Hello World” AI應用的分步代碼,而帶有攝像頭捕獲和顯示功能的端到端高級應用使您能夠按照自己的節奏順利開發AI應用。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 嵌入式處理
    +關注

    關注

    0

    文章

    341

    瀏覽量

    10218
  • AI
    AI
    +關注

    關注

    87

    文章

    33236

    瀏覽量

    273489
收藏 人收藏

    評論

    相關推薦

    全新STM32MP257開發板震撼發布!異核架構x接口豐富x邊緣AI,助力ARM嵌入式工業4.0應用!

    全新STM32MP257開發板震撼發布!異核架構x接口豐富x邊緣AI,助力ARM嵌入式工業4.0應用! ATK-DLMP257B開發板是正
    發表于 04-12 12:04

    飛凌嵌入式「2025嵌入式邊緣AI技術論壇」議程公布

    4月22日,飛凌嵌入式“2025嵌入式邊緣AI技術論壇”將在深圳舉行,論壇以“新生態,智未來”為主題,旨在匯聚行業智慧,探討嵌入式技術與
    的頭像 發表于 04-02 15:12 ?334次閱讀
    飛凌<b class='flag-5'>嵌入式</b>「2025<b class='flag-5'>嵌入式</b>及<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>技術論壇」議程公布

    嵌入式主板開發詳細指南

    嵌入式主板開發涉及硬件設計、軟件集成、系統優化等多個環節,需要結合具體應用場景進行深度定制。以下是嵌入式主板開發的詳細指南,涵蓋關鍵步驟、工
    的頭像 發表于 04-02 11:35 ?242次閱讀
    <b class='flag-5'>嵌入式</b>主板<b class='flag-5'>開發</b>詳細<b class='flag-5'>指南</b>

    新生態 智未來「飛凌嵌入式2025嵌入式邊緣AI技術論壇」開啟報名!

    在這個技術日新月異的時代,每一場思想的碰撞都可能成為推動行業前行的力量,每一次深度對話都可能迸發出改變時代的強光——2025年4月22日,飛凌嵌入式將在深圳舉辦“2025嵌入式邊緣AI
    的頭像 發表于 03-28 08:05 ?395次閱讀
    新生態 智未來「飛凌<b class='flag-5'>嵌入式</b>2025<b class='flag-5'>嵌入式</b>及<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>技術論壇」開啟報名!

    Banana Pi 發布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    RZ/V2N——近期在嵌入式世界2025上新發布,為 AI 計算、嵌入式系統及工自動化提供強大支持。這款全新的計算平臺旨在滿足開發者和企業用戶對高性能、低功耗和靈活擴展的需求。 [](
    發表于 03-19 17:54

    AI來襲!嵌入式開發者該如何應對轉型?

    AI正在改變世界!從自動駕駛到智能家居,從工業自動化到語音助手,各行各業都在朝著智能化方向邁進。對于嵌入式開發者來說,AI的到來既是一次前所未有的挑戰,也是一個充滿機遇的時代。過去,我們專注于硬件
    的頭像 發表于 03-04 14:41 ?489次閱讀
    <b class='flag-5'>AI</b>來襲!<b class='flag-5'>嵌入式開發</b>者該如何應對轉型?

    嵌入式機器學習的應用特性與軟件開發環境

    設備和智能傳感器)上,這些設備通常具有有限的計算能力、存儲空間和功耗。本文將您介紹嵌入式機器學習的應用特性,以及常見的機器學習開發軟件與開發環境。 嵌入式機器學習的應用特性與優勢 由于
    的頭像 發表于 01-25 17:05 ?431次閱讀
    <b class='flag-5'>嵌入式</b>機器學習的應用特性與軟件<b class='flag-5'>開發</b>環境

    基于Xilinx ZYNQ7000 FPGA嵌入式開發實戰指南

    電子發燒友網站提供《基于Xilinx ZYNQ7000 FPGA嵌入式開發實戰指南.pdf》資料免費下載
    發表于 12-10 15:31 ?31次下載

    AMD分析嵌入式邊緣AI的發展

    隨著人工智能( AI )技術廣泛應用于各行各業,從云到邊緣的解決方案逐漸成為信息技術領域新的熱點。嵌入式邊緣 AI 在當今的各種
    的頭像 發表于 09-18 09:30 ?491次閱讀
    AMD分析<b class='flag-5'>嵌入式</b><b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>的發展

    嵌入式linux開發的基本步驟有哪些?

    嵌入式Linux開發是一個復雜的過程,涉及到硬件選擇、操作系統移植、驅動開發、應用程序開發等多個方面。以下是嵌入式Linux
    的頭像 發表于 09-02 09:11 ?878次閱讀

    恩智浦加速嵌入式AI創新應用開發

    AI應用飛速發展的今天,如何能夠將AI嵌入式系統開發有機結合起來,營造新的開發生態,打造與眾不同的創新用例,一直是
    的頭像 發表于 08-27 09:46 ?991次閱讀

    AI普及給嵌入式設計人員帶來新挑戰

    探討了人工智能(AI)的普及給嵌入式設計人員帶來的新挑戰。在創建“邊緣機器學習(ML)”應用時,設計人員必須確保其能有效運行,同時最大限度地降低處理器和存儲開銷,以及物聯網(IoT)設備的功耗
    發表于 08-22 14:20 ?802次閱讀
    <b class='flag-5'>AI</b>普及給<b class='flag-5'>嵌入式</b>設計人員帶來新挑戰

    嵌入式軟件開發AI整合

    嵌入式軟件開發AI整合是當前技術發展的重要趨勢之一。隨著人工智能技術的快速發展,嵌入式系統越來越多地集成了AI算法,以實現更復雜的智能功能
    的頭像 發表于 07-31 09:25 ?1113次閱讀
    <b class='flag-5'>嵌入式</b>軟件<b class='flag-5'>開發</b>與<b class='flag-5'>AI</b>整合

    嵌入式開發前景怎么樣?

    嵌入式開發前景非常廣闊,這主要得益于物聯網、人工智能、大數據等技術的快速發展,以及嵌入式系統在各個領域的廣泛應用。以下是對嵌入式開發前景的詳細分析
    的頭像 發表于 07-10 09:00 ?3596次閱讀
    <b class='flag-5'>嵌入式開發</b>前景怎么樣?

    AI引爆邊緣計算變革,塑造嵌入式產業新未來AI引爆邊緣計算變革,塑造嵌入式產業新未來——2024研華嵌入式

    中國北京,2024年5月30日?- 2024年研華嵌入式產業合作伙伴會議在北京·中關村皇冠假日酒店成功舉辦,現場參會嘉賓逾300人。會議以“AI引爆邊緣計算變革,塑造嵌入式產業新未來”
    發表于 05-31 13:53 ?433次閱讀
    <b class='flag-5'>AI</b>引爆<b class='flag-5'>邊緣</b>計算變革,塑造<b class='flag-5'>嵌入式</b>產業新未來<b class='flag-5'>AI</b>引爆<b class='flag-5'>邊緣</b>計算變革,塑造<b class='flag-5'>嵌入式</b>產業新未來——2024研華<b class='flag-5'>嵌入式</b>
    主站蜘蛛池模板: 99久久精品99999久久 | 四虎影院成人 | 濑亚美莉vs黑人欧美视频 | 五月综合色婷婷影院在线观看 | 天天操天天干天天爱 | 好吊色7777sao在线视频观看 | 久久久免费网站 | 天天干人人干 | 亚洲成年人网 | 久久精品视频网站 | 国产色产综合色产在线观看视频 | 久久亚洲视频 | 亚洲综合色在线观看 | 色噜噜狠狠狠狠色综合久 | 久久都是精品 | 狼色网站 | 特级做a爰片毛片免费看 | 四虎现在的网址入口 | 色福利网| 午夜综合网 | 日韩欧美理论 | 亚洲第一伊人 | 日本x色视频| 欧美日韩亚洲国内综合网俺 | aaaa大片| 午夜免费网址 | 亚洲天堂网在线观看 | 99久久精品国产免费 | 欧美高清老少配性啪啪 | 国产精品久久久久国产精品三级 | 色综网 | 在线免费视频国产 | xxxx性bbbb| 国产精品99r8在线观看 | 不卡视频一区 | 色偷偷伊人 | 久久久久性 | 猛操女人 | 欧美人与z0zoxxxx | 精品啪啪| 久久xxxx |