yolov5导出onnx转engine推理_yolov5将onnx模型转成engine

作者：2023面试高手 | 2024-04-14 20:02:18

踩

yolov5将onnx模型转成engine

yolov5导出注意事项

配置

需要提供配置文件和权重文件，不然导出模型不能正常推理。

默认提供检测头。

ModuleNotFoundError: No module named ‘tensorrt’安装TensorRT-python发现报错

由于ModuleNotFoundError: No module named ‘tensorrt’安装TensorRT-python发现报错_modulenotfounderror: no module named 'tensorrt-CSDN博客

在TensorRT的Python文件夹中找到合适的whl，使用pip isntall xxx.whl

pt转engine是先转ONNX，然后再到engine

导出模型精度由INT64降低到INT32

onnx2trt_utils.cpp:369: Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.

属性配置

VC++包含目录

如果继承的值中有不需要的，可以将需要的值复制到可编辑的内容中，不勾选从父级或默认项目设置继承（暂定方法）

连接器--->输入--->附加依赖，


opencv_world490d.lib
nvinfer.lib
nvinfer_plugin.lib
nvonnxparser.lib
nvparsers.lib
cublas.lib
cublasLt.lib
cuda.lib
cudadevrt.lib
cudart.lib
cudart_static.lib
cudnn.lib
cudnn64_8.lib
cudnn_adv_infer.lib
cudnn_adv_infer64_8.lib
cudnn_adv_train.lib
cudnn_adv_train64_8.lib
cudnn_cnn_infer.lib
cudnn_cnn_infer64_8.lib
cudnn_cnn_train.lib
cudnn_cnn_train64_8.lib
cudnn_ops_infer.lib
cudnn_ops_infer64_8.lib
cudnn_ops_train.lib
cudnn_ops_train64_8.lib
cufft.lib
cufftw.lib
curand.lib
cusolver.lib
cusolverMg.lib
cusparse.lib
nppc.lib
nppial.lib
nppicc.lib
nppidei.lib
nppif.lib
nppig.lib
nppim.lib
nppist.lib
nppisu.lib
nppitc.lib
npps.lib
nvblas.lib
nvjpeg.lib
nvml.lib
nvrtc.lib
OpenCL.lib