1.NCNN介紹

本文檔說明基于EASY EAI Nano移植NCNN部署庫的方法與基于NCNN成功運行yolov4的Demo。

NCNN是騰訊優圖實驗室首個開源項目，是一個為手機端極致優化的高性能神經網絡前向計算框架。并在2017年7月正式開源。NCNN做為騰訊優圖最“火”的開源項目之一，是一個為手機端極致優化的高性能神經網絡前向計算框架，在設計之初便將手機端的特殊場景融入核心理念，是業界首個為移動端優化的開源神經網絡推斷庫。能實現無第三方依賴，跨平臺操作，在手機端CPU運算速度在開源框架中處于領先水平。基于該平臺，開發者能夠輕松將深度學習算法移植到手機端，輸出高效的執行，進而產出人工智能APP，將AI技術帶到用戶指尖。

支持卷積神經網絡，支持多輸入和多分支結構，可計算部分分支

無任何第三方庫依賴，不依賴 BLAS/NNPACK 等計算框架

純 C++ 實現，跨平臺，支持 android ios 等

ARM NEON 匯編級良心優化，計算速度極快

精細的內存管理和數據結構設計，內存占用極低

支持多核并行計算加速，ARM big.LITTLE cpu 調度優化

支持基于全新低消耗的 vulkan api GPU 加速

可擴展的模型設計，支持 8bit量化和半精度浮點存儲，可導入 caffe/pytorch/mxnet/onnx/darknet/keras/tensorflow(mlir) 模型

支持直接內存零拷貝引用加載網絡模型

可注冊自定義層實現并擴展

詳情可以參考官方Github：https://github.com/Tencent/ncnn

2. 源碼包下載與編譯

2.1 源碼下載放置到ubuntu

NCNN相關源碼可以通過我們的百度網盤進行下載(已經配置好編譯腳本)，下載鏈接為:

鏈接：https://pan.baidu.com/s/1x_27sNJbjCujJZozBajq4g 提取碼：dfji

下載ncnn-master.tar.bz2源碼包并移植到虛擬機里面,執行以下指令解壓源碼包：

tar xvf ncnn-master.tar.bz2

得到如下圖所示:

2.2 NCNN編譯

執行以下指令編譯：

cd ncnn-master/
./build-easyeai-nano.sh

編譯完成如下圖所示:

ncnn庫編譯完成，生成如下圖所示:

3. Yolov4基于NCNN運行

3.1 例程下載放置到ubuntu

Yolov4基于NCNN運行相關運行Demo可以通過我們的百度網盤進行下載(已經配置好編譯腳本)，下載鏈接為:

鏈接：https://pan.baidu.com/s/1x_27sNJbjCujJZozBajq4g 提取碼：dfji

下載test_demo.tar.bz2源碼包并移植到虛擬機里面,執行以下指令解壓源碼包：

tar xvf test_demo.tar.bz2

得到如下圖所示:

3.2 編譯例程

執行以下指令編譯例程：

cd test_demo/
./build.sh

編譯成功后結果如下所示:

3.3 在EASY EAI Nano執行例程

在ubuntu推送可執行程序文件到板卡的/userdata目錄：

adb push test-ncnn-demo-release/ /userdata

在EASY EAI Nano板卡執行程序:

sudo cd /userdata/test-ncnn-demo-release/
sudo ./test-ncnn-demo test_img/test1.jpg

執行結果如下圖所示:

在ubuntu執行以下指令獲取識別成功的圖片:

adb pull /userdata/test-ncnn-demo-release/result.jpg .

結果圖片如下所示:

審核編輯 黃宇