硬件與軟件版本信息

GPU3050ti Windows10 64 VS2017 Python3.8.5 CUDA11.3 + cuDNN8.3

TensorRT8.6版本下載

https://developer.nvidia.com/tensorrt

VS2017+TensorRT8.6開(kāi)發(fā)環(huán)境配置

下載好TensorRT8.6之后解壓縮到D盤(pán)D:TensorRT-8.6.0.12，目錄結(jié)構(gòu)如下：

打開(kāi)VS2017，新建一個(gè)C++控制臺(tái)空項(xiàng)目如下圖：

點(diǎn)擊【確定】會(huì)生成一個(gè)C++控制臺(tái)項(xiàng)目。右鍵源文件添加cpp文件 main.cpp

修改項(xiàng)目為：

然后右鍵項(xiàng)目名稱test_trt86, 從彈出菜單中選擇屬性，顯示如下：

在包含目錄中添加TensorRT的include目錄與CUDA的include目錄：

在庫(kù)目錄中添加TensorRT的lib目錄與CUDA的lib目錄：

從鏈接器-》輸入中添加庫(kù)目錄下面所有包含的的*.lib文件依賴。

最后配置環(huán)境變量：

3跟4安裝好CUDA會(huì)自動(dòng)添加，不用管！添加好2即可。然后重啟VS2017即完成開(kāi)發(fā)環(huán)境搭建。

YOLOv8實(shí)例分割C++推理演示

對(duì)YOLOv8實(shí)例分割TensorRT 推理代碼已經(jīng)完成C++類封裝，三行代碼即可實(shí)現(xiàn)YOLOv8對(duì)象檢測(cè)與實(shí)例分割模型推理，不需要改任何代碼即可支持自定義數(shù)據(jù)訓(xùn)練部署推理，演示代碼如下：

1intmain(intargc,char**argv){ 2std::vectorlabels=readClassNames(); 3std::stringenginefile="D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine"; 4cv::VideoCapturecap("D:/bird_test/hongyegu.mp4"); 5cv::Matframe; 6autodetector=std::make_shared(); 7detector->initConfig(enginefile,0.25,0.25); 8std::vectorresults; 9while(true){ 10boolret=cap.read(frame); 11if(frame.empty()){ 12break; 13} 14detector->detect(frame,results); 15for(DetectResultdr:results){ 16cv::Rectbox=dr.box; 17cv::putText(frame,labels[dr.classId],cv::Point(box.tl().x,box.tl().y-10),cv::FONT_HERSHEY_SIMPLEX,.5,cv::Scalar(0,0,0)); 18} 19cv::imshow("YOLOv8+TensorRT8.6實(shí)例分割演示",frame); 20charc=cv::waitKey(1); 21if(c==27){//ESC退出 22break; 23} 24//resetfornextframe 25results.clear(); 26} 27return0; 28} 運(yùn)行結(jié)果如下：

YOLOv5與YOLOv8自定義對(duì)象檢測(cè) INT8量化推理運(yùn)行結(jié)果：

視頻課程最后一課時(shí)獲取源碼：

https://ke.qq.com/course/6011334

掌握TensorRT8.6 C++如何部署圖像分類，對(duì)象檢測(cè)，實(shí)例分割，語(yǔ)義分割主流模型，自定義腳本一鍵INT8量化模型，使用OpenCV CUDA加速圖像預(yù)處理等各種工程化部署推理技巧，實(shí)現(xiàn)推理部署的工程化封裝支持，客戶端三行代碼即可調(diào)用！全部解鎖上述技能與源碼獲取，掃碼下面視頻課程加入即可獲取：

審核編輯 ：李倩