Windows 环境下 YoloV5 的 TensorRT 部署

何为YOLO

“You Only Look Once”

yolo是速度较快的物体检测算法之一,虽然它不是最准确的物体检测算法,但是在需要实时检测并且准确度不需要过高的情况下,它是一个很好的选择。本次介绍的是YOLOV5的TensorRT,他的优势是可以加速推理时间,而且无需python等较为复杂环境,对工程应用较为友好。

部署流程

1、拉取代码,YOLOV5地址:github,YOLOV5-TensorRT地址:github

2、本地化训练,得到自己的权重.pt文件(若不进行本地化训练,则直接对应预训练模型yolov5s.pt);

3、下载安装对应版本的CUDA、CUDNN、OpenCV、TensorRT、CMake;

4、tensorrtx-yolov5新建build文件,修改CMakeList(配置CUDA、CUDNN、OpenCV、TensorRT的地址);

5、CMake生成Project;

6、VS打开Project编译生成exe(或dll)文件。

测试流程

1、权重文件.pt放入tensorrtx-yolov5中与gen_wts.py同级目录;

2、cmd运行python gen_wts.py -w yolov5s.pt -o yolov5s.wts生成yolov5.wts权重文件;

3、yolov5s.wts拷贝到Build-Release目录;

4、cmd运行指令yolov5_det -s yolov5.wts yolov5s.engine s(若是exe则推理结束)。

暂时想到这么多,后续如果部署问题中报错,可以联系一起解决。