英特爾開發的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創建功能強大的異構 AI 深度學習 (DL) 推理系統所需的工作量。
該套件支持 FPGA 設計人員、機器學習工程師和軟件開發人員高效創建和優化 AI 推理平臺,以達到性能、功耗和成本俱佳的目標。
英特爾 FPGA AI 套件中集成的實用程序加快了基于 FPGA 的 AI 推理引擎的開發速度。數據科學家和工程師可以從任何熟悉的行業框架(如 TensorFlow 和 PyTorch)開始訓練和收斂推理模型,然后可以使用英特爾 分發版 OpenVINO 工具包通過簡化邏輯和降低內存占用率來優化推理模型的性能和功耗。
請注意,該優化是在 CPU 和 FPGA 的異構組合中執行的。隨后,英特爾 FPGA AI 套件會進一步優化最終設計的 FPGA 部分。經優化的設計會使用英特爾 Quartus Prime 軟件直接輸入到強大且經過驗證的 FPGA 開發流程中。
Stryker公司的研發團隊在評估英特爾FPGA AI 套件后得出以下結論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開發出更為優化的用于深度學習推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設計示例也使團隊能夠快速評估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數據科學家和 FPGA 工程師能夠無縫協作,為醫療應用開發更好的深度學習推理模型。
您可以使用英特爾 分發版 OpenVINO 工具包和英特爾 FPGA AI 套件開發推理系統,服務于從 DL 增強型嵌入式系統一直到在多個 FPGA 加速的服務器上運行的高級數據中心應用工作負載。
如果您想開發用于檢測、分類、分割或相關任務的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來實現;如果您想在使用 FPGA 編碼或解碼視頻或者在處理計算機視覺圖像的同時有效傳輸視頻流,也可以使用英特爾 分發版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說,FPGA 特別適合這種預處理和后處理。
如果您沒有自己的推理模型供訓練使用,但又迫不及待地想涉足深度學習領域,可以利用英特爾 分發版 OpenVINO 工具包,因為工具包中有面向廣泛使用的神經網絡的預訓練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統開發流程。
圖1 英特爾 FPGA AI 套件開發流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來支持更多英特爾 FPGA 的路線圖。當然,這些工具背后還有很多英特爾的在線支持。
審核編輯 :李倩
-
FPGA
+關注
關注
1640文章
21903瀏覽量
611473 -
英特爾
+關注
關注
61文章
10130瀏覽量
173484 -
機器學習
+關注
關注
66文章
8477瀏覽量
133790
原文標題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創建異構推理系統
文章出處:【微信號:英特爾FPGA,微信公眾號:英特爾FPGA】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
在Google Colab筆記本電腦上導入OpenVINO?工具包2021中的 IEPlugin類出現報錯,怎么解決?
構建開源OpenVINO?工具包后,使用MYRIAD插件成功運行演示時報錯怎么解決?
在Windows中安裝OpenVINO?后,無法找到OpenCL編譯器二進制文件是怎么回事?
為什么無法檢測到OpenVINO?工具套件中的英特爾?集成圖形處理單元?
請問OpenVINO?工具套件英特爾?Distribution是否與Windows? 10物聯網企業版兼容?
安裝OpenVINO?適用于Raspberry Pi64位操作系統的工具套件2022.3.1,配置英特爾?NCS2時出錯怎么解決?
安裝OpenVINO?工具包穩定擴散后報錯,怎么解決?
為什么Caffe模型可以直接與OpenVINO?工具套件推斷引擎API一起使用,而無法轉換為中間表示 (IR)?
使用英特爾哪吒開發套件部署YOLOv5完成透明物體目標檢測

評論