当前位置:   article > 正文

yolov5导出onnx转engine推理

yolov5导出onnx转engine推理

yolov5导出注意事项 

配置

需要提供配置文件和权重文件,不然导出模型不能正常推理。

默认提供检测头。

ModuleNotFoundError: No module named ‘tensorrt’安装TensorRT-python发现报错

由于ModuleNotFoundError: No module named ‘tensorrt’安装TensorRT-python发现报错_modulenotfounderror: no module named 'tensorrt-CSDN博客

在TensorRT的Python文件夹中找到合适的whl,使用pip isntall xxx.whl 

 pt转engine是先转ONNX,然后再到engine 

属性配置

VC++包含目录

VC++目录库目录

 

如果继承的值中有不需要的,可以将需要的值复制到可编辑的内容中,不勾选从父级或默认项目设置继承 (暂定方法)

连接器--->输入--->附加依赖 ,

  1. opencv_world490d.lib
  2. nvinfer.lib
  3. nvinfer_plugin.lib
  4. nvonnxparser.lib
  5. nvparsers.lib
  6. cublas.lib
  7. cublasLt.lib
  8. cuda.lib
  9. cudadevrt.lib
  10. cudart.lib
  11. cudart_static.lib
  12. cudnn.lib
  13. cudnn64_8.lib
  14. cudnn_adv_infer.lib
  15. cudnn_adv_infer64_8.lib
  16. cudnn_adv_train.lib
  17. cudnn_adv_train64_8.lib
  18. cudnn_cnn_infer.lib
  19. cudnn_cnn_infer64_8.lib
  20. cudnn_cnn_train.lib
  21. cudnn_cnn_train64_8.lib
  22. cudnn_ops_infer.lib
  23. cudnn_ops_infer64_8.lib
  24. cudnn_ops_train.lib
  25. cudnn_ops_train64_8.lib
  26. cufft.lib
  27. cufftw.lib
  28. curand.lib
  29. cusolver.lib
  30. cusolverMg.lib
  31. cusparse.lib
  32. nppc.lib
  33. nppial.lib
  34. nppicc.lib
  35. nppidei.lib
  36. nppif.lib
  37. nppig.lib
  38. nppim.lib
  39. nppist.lib
  40. nppisu.lib
  41. nppitc.lib
  42. npps.lib
  43. nvblas.lib
  44. nvjpeg.lib
  45. nvml.lib
  46. nvrtc.lib
  47. OpenCL.lib

找不到opencv_world490d.dll

 在win11系统环境path添加

X:\opencv4.9.0\opencv\build\x64\vc16\bin

重启vs2019.

 注意opencv4.9.0没有进行cuda编译,也没有opencv-contrib.

推导代码

参考:TensorRT】TensorRT 部署Yolov5模型(C++)_tensorrt部署yolov5-CSDN博客


【TensorRT】NVIDIA TensorRT 安装 (Windows C++)-CSDN博客

 

使用上述文章中的代码ONNX转engine速度较慢, engine_file_path需要给出具体名称,如:yolov5_my.engine

 运行代码中出现的问题

BUG:Could not locate zlibwapi.dll. Please make sure it is in your library path

下载zlibwapi,将dll_x64中的zlibwapi.dll放入使用的cuda的bin中,将zlibwapi.lib放入lib中,具体参考下面文章:

BUG:Could not locate zlibwapi.dll. Please make sure it is in your library path!-CSDN博客

 找不到nvinfer.dll和nvparsers.dll

 将TensorRT的的lib加入环境变量中。重启软件。

运行tensorrt显示找不到nvinfer.dll和nvparsers.dll-CSDN博客

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/136584
推荐阅读
相关标签
  

闽ICP备14008679号