作者:算力魔方創始人/英特爾創新大使劉力
C#不僅在PC游戲開發、大型商業系統領域應用廣泛,還成為開源測控、機器視覺與運動控制,以及PC數集與分析領域中的主流開發語言!
在開源測控、機器視覺、數采與分析三大領域中,如何快速將AI模型集成到應用程序中,實現AI賦能和應用增值?最容易的方式是:在C#中,使用OpenVINO?工具套件集成AI模型。
一,什么是OpenVINO? 工具套件?
OpenVINO? 工具套件是一個用于優化和部署人工智能(AI)模型,提升AI推理性能的開源工具集合,不僅支持以卷積神經網絡(CNN)為核心組件的預測式AI模型(Predictive AI),還支持以Transformer為核心組件的生成式AI模型(Generative AI)。
OpenVINO?工具套件支持對基于PyTorch、TensorFlow、PaddlePaddle等主流深度學習框架訓練好的模型進行優化,提升其在英特爾? CPU、獨立顯卡、集成顯卡、NPU等硬件上的AI推理計算性能。
二,什么是OpenVINO? C# API?
OpenVINO? C# API 是一個開源的 OpenVINO? 的 .Net wrapper(包裝器)項目,它基于最新的OpenVINO? Runtime庫開發,通過調用官方的OpenVINO? C API ,允許開發者在 .NET 和 .NET Framework 環境中使用 C# 語言調用AI模型,并實現AI模型在英特爾? CPU、獨立顯卡、集成顯卡、NPU上的推理加速。
OpenVINO? C# API的GitHub倉:https://github.com/guojin-yan/OpenVINO-CSharp-API
為了方便開發者使用,OpenVINO? C# API提供了NuGet Package,可以通過NuGet管理工具直接進行安裝。
三,搭建OpenVINO? C# API開發環境
搭建OpenVINO? C# API開發環境共分三步:
1.安裝.NET 8.0
2.在VS Code中配置C#開發環境
3.使用NuGet安裝OpenVINO? C# API依賴項
本節依次介紹。
1,安裝.NET 8.0:
請進入.NET官網下載地址:https://dotnet.microsoft.com/zh-cn/download,下載.NET 8.0安裝包。
下載完畢后,以管理員方式運行安裝包,并按默認方式完成安裝。
安裝完畢后,請啟動“命令提示符”,然后輸入 “dotnet --info” 指令,驗證安裝是否成功:
2,在VS Code中配置C#開發環境:
VS Code(Visual Studio Code)是一款由微軟開發的開源、免費、跨平臺的輕量級代碼編輯器;支持多種編程語言(如C、C++、C#、Java、Python、JavaScript等)的代碼編輯,具備語法高亮、代碼折疊、代碼補全、代碼重構等功能;廣泛應用于各類軟件開發領域。
[注意]:使用VS Studio的開發者,無需安裝VS Code的插件,可略過該小節!
首先,請從:https://code.visualstudio.com/,下載并安裝VS Code。
然后,啟動VS Code,在“Extensions:Marketplace”中搜索關鍵字:“C#”,依次安裝C#和C# Dev Kit插件。
接著,啟動“命令提示符”并輸入 “dotnet new console -o hello_world -f net8.0”命令,創建一個名叫“hello_world”的C# console項目。
最后,啟動VS Code,并用“File-->Open Folder...”打開hello_world文件夾,然后點擊“Run Project...”按鈕,若在Terminal中成功輸出“Hello, World!”說明在VS Code配置C#開發環境成功!
3,使用NuGet安裝OpenVINO? C# API:
首先,啟動“命令提示符”,用命令創建YOLOv8推理項目:
dotnet new console -o yolov8_async_csharp -f net8.0
然后,進入“yolov8_async_csharp”目錄,使用NuGet安裝OpenVINO? C# API,命令如下:
dotnet add package OpenVINO.CSharp.API --version 2024.3.0.2 dotnet add package OpenVINO.runtime.win --version 2024.3.0.1 dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp --version 1.0.6.1
最后,使用NuGet安裝OpenCvSharp4:
dotnet add package OpenCvSharp4 --version 4.9.0.20240103 dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103
到此,OpenVINO? C# API開發環境搭建完畢!
四,用C# 編寫OpenVINO?推理程序
首先,請從:
https://github.com/openvino-book/openvino_handbook/tree/main/chapter_5/C%23/yolov8_async_csharp,
下載范例程序Program.cs(覆蓋yolov8_asysc_csharp文件夾中的Program.cs),測試視頻test_video.mp4和yolov8s IR格式模型,放入yolov8_asysc_csharp文件夾中。
然后,點擊“Run project”或使用快捷鍵“Ctrl+F5”運行程序,結果如下視頻所示:
https://live.csdn.net/v/462063
五,總結
OpenVINO? C# API 易學易用,可以方便將AI模型集成到C#應用程序中!
如果你有更好的文章,歡迎投稿!
稿件接收郵箱:nami.liu@pasuntech.com
更多精彩內容請關注“算力魔方?”!
審核編輯 黃宇
-
AI
+關注
關注
87文章
31573瀏覽量
270381 -
OpenVINO
+關注
關注
0文章
97瀏覽量
228
發布評論請先 登錄
相關推薦
廣和通發布AI玩具大模型解決方案
基于哪吒開發板部署YOLOv8模型
![基于哪吒開發板部署YOLOv8<b class='flag-5'>模型</b>](https://file1.elecfans.com/web2/M00/0C/93/wKgaomc26BaAWn_pAABb4ZQ4M0o168.png)
使用OpenVINO Model Server在哪吒開發板上部署模型
![使用<b class='flag-5'>OpenVINO</b> Model Server在哪吒開發板上部署<b class='flag-5'>模型</b>](https://file1.elecfans.com/web1/M00/F4/1E/wKgZoWckc06AE-MqAAA875jNy1A468.png)
使用OpenVINO C++在哪吒開發板上推理Transformer模型
![使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C</b>++在哪吒開發板上推理Transformer<b class='flag-5'>模型</b>](https://file1.elecfans.com/web2/M00/09/51/wKgZomcJ2ASAET9GAAAj6RRg2ss759.png)
使用OpenVINO GenAI API在C++中構建AI應用程序
![使用<b class='flag-5'>OpenVINO</b> GenAI API在<b class='flag-5'>C</b>++中構建<b class='flag-5'>AI</b>應用程序](https://file1.elecfans.com/web2/M00/09/51/wKgZomcJ0ziAd_APAAATE9KW7lE007.png)
三行代碼完成生成式AI部署
![三行代碼完成生成式<b class='flag-5'>AI</b>部署](https://file1.elecfans.com/web2/M00/05/A5/wKgaombRh8-AU8uhAAG1HPVlRwE861.png)
使用OpenVINO C# API部署YOLO-World實現實時開放詞匯對象檢測
![使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API部署YOLO-World實現實時開放詞匯對象檢測](https://file1.elecfans.com/web2/M00/05/A5/wKgaombRhkWATb94AAJXBZDBmVM540.png)
OpenVINO2024 C++推理使用技巧
AI大模型與AI框架的關系
用OpenVINO C# API在intel平臺部署YOLOv10目標檢測模型
![用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API在intel平臺部署YOLOv10目標檢測<b class='flag-5'>模型</b>](https://file1.elecfans.com/web2/M00/F1/5B/wKgZomZ01qSAfuqIAAAvhGmMIdc334.png)
評論