近兩個月來,由于國際局勢導致海思的芯片供應鏈出現問題,海思的安防芯片缺口逐漸擴大,從華南地區逐步擴散至其他城市,從高端型號延伸到中低端型號,價格一路飆漲,能否有持續穩定的貨源成為了從業者的心頭病。
算法模型迅速、高效化的工業化落地,是當前行業的面臨的一大問題。原本學術界與工業界就存在較大 GAP,加上 NPU 芯片的突然興起,說是為了提高工業界的效率,事實上很多常規的的學術界模型都較難快速部署到 NPU 芯片上。本質原因是芯片產品的迭代周期往往以年為計數單位,且NPU屬于低可編程性ASIC芯片,很多NPU沒有較完整的指令集,直接對寄存器進行操作;而學術界的各種 Operator 是以季度為單位在更新,因此模型算子不支持的問題在NPU部署場景預期會長期存在,現在業界對NPU部署很多基于較為傳統的模型或者基于NPU可支持的操作選型模型。
為了解決AI邊緣應用開發部署遇到的真實問題,OPEN AI LAB的邊緣AI推理框架Tengine團隊今年全力投入到賦能 AI 芯片的工作中,打通從算法到AI芯片部署的環節,助力解決開發者自行適配難、效率低、性能差的問題。
Tengine團隊也在今年八月開始了對RV1109/RV1126的適配支持,目前Tengine已經完美適配 RV1109/RV1126 芯片。Tengine 對RV1109/1126的適配做到了算子級的封裝調度,框架自動對底層算力資源進行調度,包括NPU、CPU用于神經網絡推理以及2D圖形加速用于神經網絡圖片前后處理。
責任編輯:YYX
-
神經網絡
+關注
關注
42文章
4782瀏覽量
101219 -
AI芯片
+關注
關注
17文章
1909瀏覽量
35241 -
Tengine
+關注
關注
1文章
47瀏覽量
2886
發布評論請先 登錄
相關推薦
《HarmonyOS第一課》煥新升級,賦能開發者快速掌握鴻蒙應用開發
亞馬遜轉向Trainium芯片,全力投入AI模型訓練
蘋芯科技亮相2024中國AI芯片開發者論壇
云端AI開發者工具怎么用
AI開發平臺可以干什么
香橙派與昇思MindSpore合作提速,軟硬結合助力開發者構建創新AI應用
![香橙派與昇思MindSpore合作提速,軟硬結合<b class='flag-5'>助力</b><b class='flag-5'>開發者</b>構建創新<b class='flag-5'>AI</b>應用](https://file1.elecfans.com/web2/M00/0A/AC/wKgZomckmTCAVPBbAADBpS6_wMw781.png)
Arm推出GitHub平臺AI工具,簡化開發者AI應用開發部署流程
訊飛開放平臺攜手開發者共建繁榮生態
AI驅動智慧未來,2024 TUYA全球開發者大會(中東)圓滿落幕
![<b class='flag-5'>AI</b>驅動智慧未來,2024 TUYA全球<b class='flag-5'>開發者</b>大會(中東)圓滿落幕](https://file.elecfans.com/web2/M00/40/04/pYYBAGJrTDSAYdI1AAASTiyZjeQ622.jpg)
Altera推出一系列FPGA軟、硬件和開發工具
領航AI時代,涂鴉智能2024 TUYA開發者大會(蘇州)即將震撼來襲
![領航<b class='flag-5'>AI</b>時代,涂鴉智能2024 TUYA<b class='flag-5'>開發者</b>大會(蘇州)即將震撼來襲](https://file.elecfans.com/web2/M00/40/04/pYYBAGJrTDSAYdI1AAASTiyZjeQ622.jpg)
評論