TensorRT8.6C++开发环境配置与YOLOv8实例分割推理演示

原创 OpenCV学堂 2023-04-18 12:25

【TI资料】基于新型C29内核的MCU技术资料 如何增强电动汽车的实时控制能力？

点击上方蓝字关注我们

微信公众号：OpenCV开发者联盟
关注获取更多计算机视觉与深度学习知识

硬件与软件版本信息

GPU3050tiWindows10 64VS2017Python3.8.5CUDA11.3 + cuDNN8.3

TensorRT8.6版本下载

https://developer.nvidia.com/tensorrt

VS2017+TensorRT8.6开发环境配置

下载好TensorRT8.6之后解压缩到D盘D:\TensorRT-8.6.0.12，目录结构如下：

打开VS2017，新建一个C++控制台空项目如下图：

点击【确定】会生成一个C++控制台项目。右键源文件添加cpp文件 main.cpp

修改项目为：

然后右键项目名称test_trt86, 从弹出菜单中选择属性，显示如下：

在包含目录中添加TensorRT的include目录与CUDA的include目录：

在库目录中添加TensorRT的lib目录与CUDA的lib目录：

从链接器-》输入中添加库目录下面所有包含的的*.lib文件依赖。

最后配置环境变量：

3跟4安装好CUDA会自动添加，不用管！添加好2即可。然后重启VS2017即完成开发环境搭建。

YOLOv8实例分割C++推理演示

对YOLOv8实例分割TensorRT 推理代码已经完成C++类封装，三行代码即可实现YOLOv8对象检测与实例分割模型推理，不需要改任何代码即可支持自定义数据训练部署推理，演示代码如下：

 1int main(int argc, char** argv) {
 2    std::vector<std::string> labels = readClassNames();
 3    std::string enginefile = "D:/TensorRT-8.6.0.12/bin/yolov8n-seg.engine";
 4    cv::VideoCapture cap("D:/bird_test/hongyegu.mp4");
 5    cv::Mat frame;
 6    auto detector = std::make_shared();
 7    detector->initConfig(enginefile, 0.25, 0.25);
 8    std::vector results;
 9    while (true) {
10        bool ret = cap.read(frame);
11        if (frame.empty()) {
12            break;
13        }
14        detector->detect(frame, results);
15        for (DetectResult dr : results) {
16            cv::Rect box = dr.box;
17            cv::putText(frame, labels[dr.classId], cv::Point(box.tl().x, box.tl().y - 10), cv::FONT_HERSHEY_SIMPLEX, .5, cv::Scalar(0, 0, 0));
18        }
19        cv::imshow("YOLOv8 + TensorRT8.6 实例分割演示", frame);
20        char c = cv::waitKey(1);
21        if (c == 27) { // ESC 退出
22            break;
23        }
24        // reset for next frame
25        results.clear();
26    }
27    return 0;
28}

运行结果如下：

YOLOv5与YOLOv8自定义对象检测 INT8量化推理运行结果：

视频课程最后一课时获取源码：

https://ke.qq.com/course/6011334

掌握TensorRT8.6 C++如何部署图像分类，对象检测，实例分割，语义分割主流模型，自定义脚本一键INT8量化模型，使用OpenCV CUDA加速图像预处理等各种工程化部署推理技巧，实现推理部署的工程化封装支持，客户端三行代码即可调用！全部解锁上述技能与源码获取，扫码下面视频课程加入即可获取：