赞
踩
yolov5自带了export.py文件,用于将pt格式的权重文件转化为其他格式,其中包括'torchscript, onnx, openvino, engine, coreml, saved_model, pb, tflite, edgetpu, tfjs'
。
生成engine需要安装tensorrt,
具体可参考https://blog.csdn.net/weixin_43917589/article/details/122578198,
安装好之后可使用export.py完成转换。
在我转化过程中遇到了个问题
TensorRT: export failure: [WinError 127] 找不到指定的程序。PyTorch: starting from E:\VisualStudioIDE\AIProject\yolov5\yolov5s.pt with output shape (1, 25200, 85) (14.1 MB)
TensorRT: export failure: [WinError 127] 找不到指定的程序。
之后在githubshang找到了原因
https://github.com/ultralytics/yolov5/issues/10706
解决方案是使用annconda虚拟环境中的cublas64_11.dll文件替换掉cuda环境中的cublas64_11.dll文件。
经过测试发现engine文件确实速度比pt文件快,但精度比不上pt文件。
仅此以记录自己使用tensorrt加速yolov5的过程。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。