君子以泽,我欲封天耳根小说零,盗墓笔记全集

作者：黃明明英特爾邊緣計算創新大使

英特爾發行版 OpenVINO 工具套件基于 oneAPI 而開發，可以加快高性能計算機視覺和深度學習視覺應用開發速度工具套件，適用于從邊緣到云的各種英特爾平臺上，幫助用戶更快地將更準確的真實世界結果部署到生產系統中。通過簡化的開發工作流程， OpenVINO 可賦能開發者在現實世界中部署高性能應用程序和算法。

Java 是一門面向對象的編程語言，不僅吸收了 C++ 語言的各種優點，還摒棄了 C++ 里難以理解的多繼承、指針等概念，因此 Java 語言具有功能強大和簡單易用兩個特征。Java 語言作為靜態面向對象編程語言的代表，極好地實現了面向對象理論，允許程序員以優雅的思維方式進行復雜的編程。

雖然 OpenVINO 在 [OpenVINO Contrilb][1]提供了 Ubuntu 版本的 api，但由于使用 JNI 技術，這對于沒有涉及 C/C++ 編程的開發者并不是特別的友好，且后期的維護更新也帶來了不小的麻煩。

在之前的工作中，我們推出了 OpenVINO Java API ，旨在推動 OpenVINO 在 Java 領域的應用，目前已經成功在 Mac、Windows、Linux 平臺實現使用。在本文中，我們將介紹如何在英特爾開發套件 AIxBoard 上基于 Linux 系統實現 OpenVINO Java API。

項目中所使用的代碼已上傳至 OpenVINO Java API 倉庫中，GitHub 網址為：

https://github.com/Hmm466/OpenVINO-Java-API

（復制鏈接到瀏覽器打開）

1. 英特爾開發套件 AIxBoard 介紹

1.1產品定位

英特爾開發套件 AIxBoard 是英特爾開發套件官方序列中的一員，專為入門級人工智能應用和邊緣智能設備而設計。英特爾開發套件 AIxBoard 能完美勝人工智能學習、開發、實訓、應用等不同應用場景。該套件預裝了英特爾 OpenVINO 工具套件、模型倉庫和演示。

套件主要接口與 Jetson Nano 載板兼容，GPIO 與樹莓派兼容，能夠最大限度地復用成熟的生態資源。這使得套件能夠作為邊緣計算引擎，為人工智能產品驗證和開發提供強大支持；同時，也可以作為域控核心，為機器人產品開發提供技術支撐。

使用英特爾開發套件 AIxBoard，您將能夠在短時間內構建出一個出色的人工智能應用應用程序。無論是用于科研、教育還是商業領域，英特爾開發套件 AIxBoard 都能為您提供良好的支持。借助 OpenVINO 工具套件，CPU、iGPU 都具備強勁的 AI 推理能力，支持在圖像分類、目標檢測、分割和語音處理等應用中并行運行多個神經網絡。

1.2產品參數

1.3AI 推理單元

借助 OpenVINO 工具，能夠實現 CPU+iGPU 異構計算推理，IGPU 算力約為 0.6TOPS。

2準備工作

2.1

配置 java 環境

下載并配置 JDK:

JDK（Java Development Kit）稱為 Java 開發包或 Java 開發工具，是一個編寫 Java 的 Applet 小程序和應用程序的程序開發環境。JDK 是整個 Java 的核心，包括了 Java 運行環境（Java Runtime Environment），一些 Java 工具和 Java 的核心類庫（Java API）。不論什么 Java 應用服務器實質都是內置了某個版本的 JDK。主流的 JDK 是 Sun 公司發布的 JDK，除了 Sun 之外，還有很多公司和組織都開發了自己的 JDK。

2.1.1添加 api 到本地 maven

添加 OpenVINO Java API 至 Maven（目前沒有在 maven 中央倉庫發布，所以需要手動安裝）

2.1.2clone OpenVINO Java API 項目到本地

java
git clone https://github.com/Hmm466/OpenVINO-Java-API

左滑查看更多

2.1.3通過 IDEA 或 Eclipse 打開

通過 maven install 到本地 maven 庫中

[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 14.647 s
[INFO] Finished at: 2023-11-02T21:34:49+08:00
[INFO] ------------------------------------------------------------------------

左滑查看更多

jar 包會放置在：

/{userHome}/.m2/repository/org/openvino/java-api/1.0-SNAPSHOT/java-api-1.0-SNAPSHOT.pom

2.2安裝 OpenVINO Runtime

OpenVINO 有兩種安裝方式: OpenVINO Runtime 和 OpenVINO Development Tools。

OpenVINO Runtime 包含用于在處理器設備上運行模型部署推理的核心庫。OpenVINO Development Tools 是一組用于處理 OpenVINO 和 OpenVINO 模型的工具，包括模型優化器、OpenVINO Runtime、模型下載器等。在此處我們只需要安裝 OpenVINO Runtime 即可。

2.2.1下載 OpenVINO Runtime

訪問 Download the Intel Distribution of OpenVINO Toolkit 頁面，按照下面流程選擇相應的安裝選項，在下載頁面，由于 AIxBoard 使用的是 Ubuntu20.04，因此下載時按照指定的編譯版本下載即可。

2.2.2解壓縮安裝包

我們所下載的 OpenVINO Runtime 本質是一個 C++ 依賴包，因此我們把它放到我們的系統目錄下，這樣在編譯時會根據設置的系統變量獲取依賴項。

shell
cd ~/Downloads/
tar -xvzf l_openvino_toolkit_ubuntu20_2022.3.1.9227.cf2c7da5689_x86_64.tgz
sudo mv l_openvino_toolkit_ubuntu20_2022.3.1.9227.cf2c7da5689_x86_64/runtime/lib/intel64/* /usr/lib/

左滑查看更多

2.3編譯 OpenCV java 庫

2.3.1下載 ANT

由于 OpenCV 編譯出 libopencv_java{version}.[so|dll|dylib] 需要 apache ant 的支持，所以需要手動下載ant[2]并加入環境變量

shell
export ANT_HOME={ant_home}
export PATH=$ANT_HOME/bin:$PATH

左滑查看更多

2.3.2OpenCV[3] 下載源代碼

解壓縮之后進入文件夾：

shell
mkdir build
cd build
cmake -DBUILD_SHARED_LIBS=OFF -DWITH_IPP=OFF -DBUILD_ZLIB=OFF -DCMAKE_INSTALL_PREFIX=你的opencv目錄
 -DJAVA_INCLUDE_PATH={jdk 所在位置}/include -DJAVA_AWT_INCLUDE_PATH={jdk 所在位置}/include
 -DJAVA_INCLUDE_PATH2={jdk 所在位置}/include -DBUILD_JAVA=ON ..

左滑查看更多

注意看輸出有沒有：

--  Java:
--   ant:
--   JNI:
--   Java wrappers:
--   Java tests:

左滑查看更多

需要不為 NO 或者有目錄，然后編譯安裝：

shell
make -j 8
make install

左滑查看更多

3在 AIxBoard 上進行測試

3.1源代碼直接測試

shell
git clone https://github.com/Hmm466/OpenVINO-Java-API

左滑查看更多

-使用IDEA / Eclipse 打開項目

- 運行

src/test/java/org.openvino.java.test.YoloV8Test

3.2創建其他項目進行測試

創建一個 AlxBoardDeployYolov8 Maven 項目

創建完成之后引用我們剛剛 install 的 OpenVINO-Java-API，或者直接 clone 項目直接修改體驗

maven 引用：

maven

  org.openvino
  java-api
  1.0-SNAPSHOT

【注意】如果才用 maven 依賴需要注意 opencv 的庫引用問題.可以將 OpenVINO-Java-API/libs 的 opencv 庫引用到你的項目下

編寫測試代碼：

java
OpenVINO vino = OpenVINO.load();
OvVersion version = vino.getVersion();
Console.println("---- OpenVINO INFO----");
Console.println("Description : %s", version.description);
Console.println("Build number: %s", version.buildNumber);

左滑查看更多

結果將輸出：

text
---- OpenVINO INFO----
Description : OpenVINO Runtime
Build number: 2023.2.0-12538-e7c1344d3c3
det
text
Description : OpenVINO Runtime
Build number: 2023.2.0-12538-e7c1344d3c3
[INFO] Loading model files: model/yolov8/yolov8s.xml
[INFO] model name: torch_jit
[INFO]  inputs:
[INFO]   input name: images
[INFO]   input type: Node
[INFO]   input shape: Shape{, rank=4, dims=1,3,640,640}
[INFO]  outputs:
[INFO]   output name: output0
[INFO]   output type: Node
[INFO]   output shape: Shape{, rank=3, dims=1,84,8400}
[INFO] Read image files: dataset/image/demo_2.jpg


 Detection result : 


1: 0 0.92775315  {0, 304, 268x519}
2: 0 0.90614283  {632, 97, 615x725}
3: 0 0.9032028  {286, 198, 190x591}
4: 62 0.902739  {258, 164, 446x284}
5: 0 0.80478114  {739, 262, 123x229}
6: 0 0.7890141  {891, 314, 231x226}
7: 63 0.7383257  {532, 518, 260x275}
8: 63 0.7148062  {861, 448, 90x86}
9: 56 0.5889373  {102, 614, 185x216}
10: 0 0.4642688  {1006, 315, 116x159}
11: 63 0.43404874  {987, 483, 104x126}
12: 63 0.38955435  {892, 480, 202x196}
13: 62 0.30369592  {961, 384, 87x81}

左滑查看更多

seg
text
---- OpenVINO INFO----
Description : OpenVINO Runtime
Build number: 2023.2.0-12538-e7c1344d3c3
[INFO] Loading model files: model/yolov8/yolov8s-seg.xml
[INFO] model name: torch_jit
[INFO]  inputs:
[INFO]   input name: images
[INFO]   input type: Node
[INFO]   input shape: Shape{, rank=4, dims=1,3,640,640}
[INFO]  outputs:
[INFO]   output name: output0
[INFO]   output type: Node
[INFO]   output shape: Shape{, rank=3, dims=1,116,8400}
[INFO] Read image files: dataset/image/demo_2.jpg


 Segmentation result : 


1: 0 0.9207011  {0, 66, 439x801}
2: 0 0.91634876  {403, 151, 339x721}
3: 63 0.9086068  {37, 460, 388x231}
4: 56 0.74821126  {878, 517, 146x265}
5: 0 0.37459317  {679, 331, 91x263}
6: 0 0.31526685  {641, 345, 45x39}

左滑查看更多

pose
text
---- OpenVINO INFO----
Description : OpenVINO Runtime
Build number: 2023.2.0-12538-e7c1344d3c3
[INFO] Loading model files: model/yolov8/yolov8s.xml
[INFO] model name: torch_jit
[INFO]  inputs:
[INFO]   input name: images
[INFO]   input type: Node
[INFO]   input shape: Shape{, rank=4, dims=1,3,640,640}
[INFO]  outputs:
[INFO]   output name: output0
[INFO]   output type: Node
[INFO]   output shape: Shape{, rank=3, dims=1,84,8400}
[INFO] Read image files: dataset/image/demo_2.jpg


 Classification result : 


1: 1  0.9001118  {407, 151, 334x722} Nose: (0.0 ,0.0 ,3.4155396E-6) Left Eye: (0.0 ,0.0 ,6.0583807E-6) Right Eye: (0.0 ,0.0 ,3.7476743E-6) Left Ear: (0.0 ,0.0 ,3.2295986E-6) Right Ear: (0.0 ,0.0 ,1.7464492E-6) Left Shoulder: (0.0 ,0.0 ,2.5992335E-6) Right Shoulder: (0.0 ,0.0 ,3.937065E-6) Left Elbow: (0.0 ,0.0 ,7.936895E-6) Right Elbow: (0.0 ,0.0 ,2.3217426E-6) Left Wrist: (0.0 ,0.0 ,3.6387396E-6) Right Wrist: (0.0 ,0.0 ,4.40427E-6) Left Hip: (0.0 ,0.0 ,1.940609E-6) Right Hip: (0.0 ,0.0 ,3.770945E-6) Left Knee: (0.0 ,0.0 ,2.4128974E-6) Right Knee: (0.0 ,0.0 ,3.424496E-6) Left Ankle: (0.0 ,0.0 ,7.5513196E-7) Right Ankle: (0.0 ,0.0 ,4.3359764E-6) 
2: 1  0.8558029  {0, 65, 441x802} Nose: (0.0 ,0.0 ,5.9377476E-7) Left Eye: (0.0 ,0.0 ,7.104497E-6) Right Eye: (0.0 ,0.0 ,1.319968E-6) Left Ear: (0.0 ,0.0 ,6.459948E-7) Right Ear: (0.0 ,0.0 ,4.0330252E-7) Left Shoulder: (0.0 ,0.0 ,1.5084498E-7) Right Shoulder: (0.0 ,0.0 ,6.642805E-7) Left Elbow: (0.0 ,0.0 ,2.447048E-6) Right Elbow: (0.0 ,0.0 ,2.463981E-7) Left Wrist: (0.0 ,0.0 ,3.8335997E-7) Right Wrist: (0.0 ,0.0 ,3.6232507E-7) Left Hip: (0.0 ,0.0 ,3.2433576E-7) Right Hip: (0.0 ,0.0 ,7.913691E-7) Left Knee: (0.0 ,0.0 ,4.720929E-7) Right Knee: (0.0 ,0.0 ,4.3835226E-7) Left Ankle: (0.0 ,0.0 ,1.2476052E-7) Right Ankle: (0.0 ,0.0 ,4.4775015E-7) 
3: 1  0.60723305  {678, 333, 95x259} Nose: (0.0 ,0.0 ,8.775595E-7) Left Eye: (0.0 ,0.0 ,7.137654E-7) Right Eye: (0.0 ,0.0 ,1.2003383E-6) Left Ear: (0.0 ,0.0 ,8.495165E-7) Right Ear: (0.0 ,0.0 ,5.2003993E-6) Left Shoulder: (0.0 ,0.0 ,3.1942466E-7) Right Shoulder: (0.0 ,0.0 ,1.1035459E-6) Left Elbow: (0.0 ,0.0 ,5.3546346E-6) Right Elbow: (0.0 ,0.0 ,1.7979652E-6) Left Wrist: (0.0 ,0.0 ,8.755582E-7) Right Wrist: (0.0 ,0.0 ,6.6855574E-7) Left Hip: (0.0 ,0.0 ,4.0984042E-7) Right Hip: (0.0 ,0.0 ,7.5307044E-6) Left Knee: (0.0 ,0.0 ,9.537544E-7) Right Knee: (0.0 ,0.0 ,7.810681E-8) Left Ankle: (0.0 ,0.0 ,3.2538756E-7) Right Ankle: (0.0 ,0.0 ,1.2676019E-6) 
4: 1  0.38707685  {1277, 740, 44x138} Nose: (0.0 ,0.0 ,1.074906E-4) Left Eye: (0.0 ,0.0 ,3.1907311E-6) Right Eye: (0.0 ,0.0 ,9.670388E-6) Left Ear: (0.0 ,0.0 ,4.4663593E-6) Right Ear: (0.0 ,0.0 ,0.0025005206) Left Shoulder: (0.0 ,0.0 ,4.032511E-5) Right Shoulder: (0.0 ,0.0 ,2.5534397E-5) Left Elbow: (0.0 ,0.0 ,0.0043662274) Right Elbow: (0.0 ,0.0 ,4.32287E-5) Left Wrist: (0.0 ,0.0 ,8.4830776E-7) Right Wrist: (0.0 ,0.0 ,5.0576923E-6) Left Hip: (0.0 ,0.0 ,1.1178828E-5) Right Hip: (0.0 ,0.0 ,2.2293802E-5) Left Knee: (0.0 ,0.0 ,3.1517664E-6) Right Knee: (0.0 ,0.0 ,8.923516E-5) Left Ankle: (0.0 ,0.0 ,5.5582723E-6) Right Ankle: (0.0 ,0.0 ,2.206743E-6)

左滑查看更多

cls
text
---- OpenVINO INFO----
Description : OpenVINO Runtime
Build number: 2023.2.0-12538-e7c1344d3c3
[INFO] Loading model files: model/yolov8/yolov8s.xml
[INFO] model name: torch_jit
[INFO]  inputs:
[INFO]   input name: images
[INFO]   input type: Node
[INFO]   input shape: Shape{, rank=4, dims=1,3,640,640}
[INFO]  outputs:
[INFO]   output name: output0
[INFO]   output type: Node
[INFO]   output shape: Shape{, rank=3, dims=1,84,8400}
[INFO] Read image files: dataset/image/demo_2.jpg


 Classification Top 10 result : 


classid probability
------- -----------
{14789}   {635.549438}
{3679}   {635.543701}
{14788}   {635.522583}
{14731}   {635.518616}
{14730}   {635.513428}
{3839}   {635.502441}
{14790}   {635.497314}
{14732}   {635.489258}
{14781}   {635.486694}
{14739}   {635.484985}

左滑查看更多

4總結

在該項目中，我們基于 AIxBoard 為硬件基礎實現了 Java 在 Ubuntu 22.04 系統上成功使用 OpenVINO Java API，并且成功允許了 Yolov8 模型，驗證了 Java 運行的可行性，并簡化了 Java 開發者對于 AI 類項目的上手難度。

同時 OpenVINO Java API 已完成了 Mac、Linux、Windows 的測試，Windows 平臺的文檔也正在輸出。后續我還會將繼續使用 OpenVINO Java API 在英特爾開發套件 AIxBoard 部署更多的深度學習模型。

審核編輯：湯梓紅

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。舉報投訴

英特爾

英特爾

+關注

關注
61

文章
10135

瀏覽量
173517
JAVA

JAVA

+關注

關注
20

文章
2983

瀏覽量
106467
邊緣計算

邊緣計算

+關注

關注
22

文章
3228

瀏覽量
50296
OpenVINO

OpenVINO

+關注

關注
0

文章
111

瀏覽量
379

原文標題：OpenVINO? Java API 詳解與演示｜開發者實戰

文章出處：【微信號：英特爾物聯網，微信公眾號：英特爾物聯網】歡迎添加關注！文章轉載請注明出處。

如何使用OpenVINO C++ API部署FastSAM模型

象的位置和邊界。本文將介紹如何使用 OpenVINO C++ API 部署 FastSAM 模型，以實現快速高效的語義分割。在前文中我們發表了《基于 OpenVINO Python API

發表于 11-17 09:53 ?1171次閱讀

無法使用API實現NPU與OpenVINO?的內存共享怎么辦？

無法使用遠程張量 API 實現 NPU 與OpenVINO?的內存共享。

發表于 03-06 07:11

在Visual Studio中使用OpenVINO? C API時無法讀取網絡怎么解決？

使用 OpenVINO C API 加載中間表示（IR），方法是引用Hello 分類 C 樣本。使用ie_infer_request_set_blob 時收到的狀態為 -1（一般錯誤）。

發表于 03-07 07:01

運行任何OpenVINO Python演示和示例時報錯怎么解決？

運行任何OpenVINO? Python 演示和示例時，會出現錯誤： FileNotFoundEror：[WinError 2]。

發表于 08-15 07:21

高手總結java常用API(免費下載)

高手總結java常用API(免費下載)。

發表于 11-06 11:27 ?0次下載

JAVA教程之滑桿演示

JAVA教程之滑桿演示，很好的學習資料。

發表于 03-31 11:13 ?9次下載

java入門到詳解[推薦]

java入門到詳解[推薦]

發表于 03-19 11:23 ?4次下載

使用Java API技巧分析

本文介紹了一些關于Java API安全和性能方面的簡單易用的技巧，其中包括保證API Key安全和開發Web Service方面中在框架方面選擇的一些建議。程序員都喜歡使用API！例

發表于 09-27 14:09 ?3次下載

OpenVINO工具套件預處理API的概念及使用方法

OpenVINO 2022.1之前版本不提供OpenVINO Runtime原生的用于數據預處理的API函數1 ，如圖1-1所示，開發者必須通過第三方庫(例如：OpenCV)來實現數據預處理。

發表于 06-09 17:25 ?2318次閱讀

OpenVINO? C# API詳解與演示

OpenVINO C# API 支持 NuGet 程序包安裝方式，這與 OpenVINO C++ 庫的安裝過程相比，更加簡單。如果使用 Visual Studio 開發 AI 項目，則可以通過 NuGet 程序包管理功能直接安裝

發表于 10-13 16:39 ?1045次閱讀

基于OpenVINO Python API部署RT-DETR模型

平臺實現 OpenVINO 部署 RT-DETR 模型實現深度學習推理加速，在本文中，我們將首先介紹基于 OpenVINO Python API 部署 RT-DETR 模型。

發表于 10-20 11:15 ?1282次閱讀

基于OpenVINO C++ API部署RT-DETR模型

Python API 部署 RT-DETR 模型 | 開發者實戰》，在該文章中，我們基于 OpenVINO Python API 向大家展示了包含后處理的 RT-DETR 模型的部署流程，但在實際工業

發表于 11-03 14:30 ?1256次閱讀

基于OpenVINO C# API部署RT-DETR模型

Python API 部署 RT-DETR 模型 | 開發者實戰》和《基于 OpenVINO C++ API 部署 RT-DETR 模型 | 開發者實戰》，在該文章中，我們基于 OpenVI

發表于 11-10 16:59 ?999次閱讀

OpenVINO? Java API應用RT-DETR做目標檢測器實戰

本文將從零開始詳細介紹環境搭建的完整步驟，我們基于英特爾開發套件AIxBoard為硬件基礎實現了Java在Ubuntu 22.04系統上成功使用OpenVINO? Java API，并

發表于 03-18 15:04 ?1094次閱讀

Java集合API的改進介紹

解答這些問題。我們將逐步學習 Java 集合類的優化過程，并按版本逐一對比分析。主要討論的焦點將包括 JDK 1.0、1.2、1.4、1.5、1.6、1.8、9、10、11 和 21 版本的 Java 集合功能 Java 集合

發表于 11-22 11:12 ?436次閱讀