描述

這是如何為 Alinx 制造的AXU2CGA/B Zynq UltraScale+ FPGA 開發(fā)板創(chuàng)建硬件加速器平臺的分步教程，該平臺 可用于在 Xilinx Vitis 工具集下運(yùn)行具有加速功能的 GNU Radio 應(yīng)用程序。

添加 EA4GPZ 開發(fā)的gr-satellites并構(gòu)建您自己的 OOT 模塊也包含在這套教程中。

這是第 4/4 部分：在 Colab 和 Vitis-AI 中構(gòu)建 AI 模型

如果你正在尋找這組教程的其他部分，你可以直接去那里：

• 第 1 部分 - 創(chuàng)建 Vivado 硬件設(shè)計(jì)
• 第 2 部分 - 軟件 - 構(gòu)建 PetaLinux 和 GNU Radio
• 第 3 部分 - 使用 DPU 創(chuàng)建 Vitis 平臺和應(yīng)用程序
• 第 4 部分 - 在 Colab 和 Vitis-AI 中構(gòu)建 AI 模型

獲取射頻數(shù)據(jù)集

RF 數(shù)據(jù)集可以從RF Datasets For Machine Learning網(wǎng)站免費(fèi)下載。選擇RADIOML 2018.01A數(shù)據(jù)集并下載2018.01.OSC.0001_1024x2M.h5.tar.gz文件。

您應(yīng)該提供您的聯(lián)系信息以供下載，但該數(shù)據(jù)集是免費(fèi)的。您需要大約 20 GB 的磁盤可用空間來下載。

還有另一個(gè)選項(xiàng)可以將數(shù)據(jù)集的大小減少到僅約 6%。這足以開始。本教程使用精簡的數(shù)據(jù)集（僅約 1.2 GB），可以從隨附的 Jupyter Notebook 腳本中提供的鏈接下載。

這是用于減少原始大型數(shù)據(jù)集的腳本：

reduce_dataset.ipynb

您可以跳過此下載步驟并直接跳到下一步，以防萬一您不想下載和使用整個(gè)數(shù)據(jù)集。

否則，如果您想將原始數(shù)據(jù)集作為一個(gè)整體使用，請?zhí)D(zhuǎn)到Xilinx 教程 - RF 調(diào)制識別GitHub 頁面并使用他們的原始腳本來構(gòu)建模型。在這種情況下，您可以跳過本教程的剩余部分。

獲取 Jupyter Notebook Scrips

本教程中提供了兩個(gè) Jupyter 腳本。第一個(gè)將在Google Colab上運(yùn)行，第二個(gè)將在Xilinx Vitis-AI Docker 映像上運(yùn)行。

克隆s59mz/test-dpu GitHub 存儲庫并記下 Jupyter 子目錄中的兩個(gè) Jupyter 筆記本腳本。我們稍后會需要它。

• rf_classification-Colab.ipynb
• rf_classification-Vitis-AI.ipynb

$ git clone http://github.com/s59mz/test-dpu
$ cd test-dpu/
$ ls jupyter/

rf_classification-Vitis-AI.ipynb
rf_classification-Colab.ipynb
reduce_dataset.ipynb

注意：reduce_dataset.ipynb可用于手動減少原始數(shù)據(jù)集，如上一節(jié)所述。

獲取 arch.json 文件

這是為 DPU 編譯模型的非常重要的文件。該文件位于模型目錄中：

$ ls models/*.json
models/arch_b1152.json

$ cat models/arch_b1152.json
{"fingerprint":"0x100002062010103"}

注意：指紋可以通過在 FPGA 板上運(yùn)行以下命令直接從目標(biāo)板上讀取：

$ export XLNX_VART_FIRMWARE=/media/sd-mmcblk1p1/dpu.xclbin
$ xdputil query

注意：編輯arch.json文件并手動更新指紋參數(shù)，以防您更改 DPU 構(gòu)建配置（dpu_conf.vh 文件）

構(gòu)建和訓(xùn)練 AI 模型

我們將構(gòu)建的 AI 模型使用TensorFlow框架。我們使用Google Colab服務(wù)來訓(xùn)練模型，因?yàn)槲覀兛梢悦赓M(fèi)使用他們非常強(qiáng)大的顯卡進(jìn)行計(jì)算，但僅限于有限的時(shí)間（幾個(gè)小時(shí)）。

在 Colab 斷開您與他們的服務(wù)之間的連接之前，請務(wù)必將您訓(xùn)練的模型下載并保存到您的計(jì)算機(jī)上。您可以在第二天重復(fù)整個(gè)過程，任意多次，但每次都必須從頭開始。

• 打開您的網(wǎng)絡(luò)瀏覽器（推薦使用 Google Chrome 或 Firefox）并打開Google Colab網(wǎng)頁。
• 將第一個(gè)腳本rf_classification-Colab.ipynb上傳到 Colab（文件 > 上傳筆記本）。如果您還沒有登錄，您應(yīng)該使用您的 Google 帳戶登錄。
• 展開窗口左側(cè)的文件圖標(biāo)，這樣您就可以在那里看到一些新創(chuàng)建的文件 (sample_data)。

?

• 將 Runtime 設(shè)置為 GPU：Runtime > Change Runtime type > GPU并保存，如果可用，否則使用 CPU，但訓(xùn)練時(shí)間會更長。
• 啟動腳本：Runtime > Run all并等待大約半小時(shí)。

剛剛發(fā)生了什么？

• 該腳本首先從我的 Google Drive 下載縮減的數(shù)據(jù)集。您可以更改 Cell #2 (!wget...) 中的路徑以使用您自己的數(shù)據(jù)集。您應(yīng)該會看到一個(gè)新文件reduce_rf_dataset_XYZ.hdf5出現(xiàn)在左側(cè)。
• 經(jīng)過一些數(shù)據(jù)處理和準(zhǔn)備后，模型將被訓(xùn)練，您可以在檢查點(diǎn)文件夾中看到一些保存的檢查點(diǎn)狀態(tài)。

?

• 腳本完成后，您會注意到另一個(gè)新文件：保存的最佳訓(xùn)練模型，名為rf-model-best.h5 。

訓(xùn)練模型位置

?

• 將經(jīng)過訓(xùn)練的模型rf-model-best.h5 下載到您的計(jì)算機(jī)，然后 Colab 會因不活動而斷開您與服務(wù)的連接。
• 訓(xùn)練后的模型也可以在GitHub存儲庫中找到（使用不同的名稱）：rfClassification_fp_model.h5
• 探索結(jié)果。這是一個(gè)混淆矩陣，我們僅使用數(shù)據(jù)集中 6% 的樣本得到了 10 個(gè) epoch 的訓(xùn)練。

?

• 不完美，但足以作為在真實(shí) FPGA 上測試模型的起點(diǎn)。
• 隨意使用來自數(shù)據(jù)集的更多數(shù)據(jù)樣本或更長的訓(xùn)練時(shí)間（epochs）再次重復(fù)整個(gè)過程，甚至可以根據(jù)需要改進(jìn)模型以獲得更準(zhǔn)確的結(jié)果。
• 但是，請記住：您每天使用 Google Colab 的時(shí)間是有限的（大概 2 小時(shí)左右）。因此，每次下載模型后都要關(guān)閉會話（連接 > 管理會話 > 終止）。

在 Vitis-AI 上編譯模型

現(xiàn)在，由于我們有一個(gè)名為rf-model-best.h5的浮點(diǎn)模型，我們需要對其進(jìn)行量化、校準(zhǔn)和編譯，以便在真實(shí) FPGA 的 DPU 單元上使用它。

此過程的詳細(xì)信息超出了本教程的范圍。隨意地：

• 探索提供的腳本rf_classification-Vitis-AI.ipynb
• 閱讀Vitis-AI的官方 GitHub 頁面。

以下是主要步驟：

• 如果您還沒有 Docker，請?jiān)谀闹鳈C(jī)上安裝Docker 。
• 使用以下命令下載最新的 Vitis AI Docker 映像：

docker pull xilinx/vitis-ai-cpu:latest

• 將Vitis-AI GitHub 存儲庫克隆到您的主機(jī)。

git clone --recurse-submodules https://github.com/Xilinx/Vitis-AI

• 將先前克隆的rf_classification-Vitis-AI.ipynb腳本復(fù)制到 Vitis-AI 存儲庫以及上一節(jié)中訓(xùn)練好的模型rf-model-best.h5 。您可以創(chuàng)建一個(gè)新的my_model目錄和一個(gè)子目錄fp_model來復(fù)制您的訓(xùn)練模型。
• 還將arch_b1152.json文件復(fù)制到同一目錄，除非您也更新 Jupyter 腳本，否則不要更改文件名。

$ cd Vitis-AI
$ mkdir -p my_model/fp_model
$ cp ~/test-dpu/jupyter/rf_classification-Vitis-AI.ipynb my_model
$ cp ~/Downloads/rf-model-best.h5 my_model/fp_model
$ cp ~/test-dpu/models/arch_b1152.json my_model
$ cd my_model

$ ls
arch_b1152.json  fp_model  rf_classification-Vitis-AI.ipynb

• 使用 bash 腳本從my_model目錄啟動 Docker 映像。

$ ../docker_run.sh xilinx/vitis-ai

• 當(dāng) Docker 啟動時(shí)，通過執(zhí)行conda activate命令切換到 TensorFlow2。

?

• 通過運(yùn)行以下命令（在 Docker 內(nèi)部）啟動Jupyter Notebook ：

$ jupyter notebook --no-browser --ip=0.0.0.0 --NotebookApp.token='' --NotebookApp.password=''

• 現(xiàn)在，打開主機(jī)上的 Web 瀏覽器并打開名為http://localhost:8888/的網(wǎng)頁

?

• 點(diǎn)擊之前復(fù)制的腳本rf_classification-Vitis-AI.ipynb

?

• 運(yùn)行腳本：Kernel > Restart & Run All并等待幾分鐘得到編譯好的模型。
• 注意：校準(zhǔn)所需的縮減數(shù)據(jù)集(1.2 GB) 將從我的 Google Drive 下載到您的計(jì)算機(jī)。您可以修改腳本并使用自己的數(shù)據(jù)集進(jìn)行校準(zhǔn)。
• 然后，將創(chuàng)建一個(gè)新的量化模型，該模型由先前下載的校準(zhǔn)數(shù)據(jù)集進(jìn)行優(yōu)化。它位于quantize_results/quantized_model.h5目錄中。
• 最后，將創(chuàng)建一個(gè)新目錄vai_c_output 。
• 里面是我們的rfClassification.xmodel文件，準(zhǔn)備上傳到我們的目標(biāo)板。

在目標(biāo)板上測試模型

現(xiàn)在，我們準(zhǔn)備在真實(shí)硬件上測試模型。

• 將SD 卡上的原始rfClassification.xmodel文件復(fù)制或替換為新文件。它位于 test-dpu/models 目錄的引導(dǎo)分區(qū)中。

$ pwd
/media/sd-mmcblk1p1/test-dpu/models

• 如果您更改模型的名稱，您還應(yīng)該更新測試腳本以及 RF Claasification GNU Radio 模塊。否則，只需將原始文件替換為新文件即可。
• 從第 3 部分運(yùn)行準(zhǔn)確性測試：

$ pwd
/media/sd-mmcblk1p1/test-dpu

$ ./run_test_accuracy.sh

Number of RF Samples Tested is  998
Batch Size is  1
Top1 accuracy =  0.53

最后...

再次在 GNU Radio 上啟動RF 調(diào)制分類應(yīng)用程序。

$ pwd
/media/sd-mmcblk1p1/test-dpu

$ ./run_rf_classification.sh

這個(gè)項(xiàng)目的最終結(jié)果

?

就這樣 ！

如果您成功通過所有四個(gè)部分來到這里，恭喜！

隨時(shí)在此博客上發(fā)表評論。