Windows 环境下 YoloV5 的 TensorRT 部署
何为YOLO
“You Only Look Once”
yolo是速度较快的物体检测算法之一,虽然它不是最准确的物体检测算法,但是在需要实时检测并且准确度不需要过高的情况下,它是一个很好的选择。本次介绍的是YOLOV5的TensorRT,他的优势是可以加速推理时间,而且无需python等较为复杂环境,对工程应用较为友好。
部署流程
1、拉取代码,YOLOV5地址:github,YOLOV5-TensorRT地址:github;
2、本地化训练,得到自己的权重.pt文件(若不进行本地化训练,则直接对应预训练模型yolov5s.pt);
3、下载安装对应版本的CUDA、CUDNN、OpenCV、TensorRT、CMake;
4、tensorrtx-yolov5新建build文件,修改CMakeList(配置CUDA、CUDNN、OpenCV、TensorRT的地址);
5、CMake生成Project;
6、VS打开Project编译生成exe(或dll)文件。
测试流程
1、权重文件.pt放入tensorrtx-yolov5中与gen_wts.py同级目录;
2、cmd运行python gen_wts.py -w yolov5s.pt -o yolov5s.wts
生成yolov5.wts权重文件;
3、yolov5s.wts拷贝到Build-Release目录;
4、cmd运行指令yolov5_det -s yolov5.wts yolov5s.engine s
(若是exe则推理结束)。
暂时想到这么多,后续如果部署问题中报错,可以联系一起解决。
不愧是wuang,总能弄些我看不懂的