【YOLO】yolov5+TensorRT推理_tensorrt推理yolov5

作者：盐析白兔 | 2024-08-21 21:17:55

踩

tensorrt推理yolov5

YOLO系列学习

上一章【YOLO】添加注意力机制（SE、CBAM、ECA、CA）

前言

TensorRT 是由英伟达公司推出的一款用于高性能深度学习模型推理的软件开发工具包，该软件开发工具包中包含了应用程序运行时环境和深度学习模型推理优化器，TensorRT 是采用 C++语言编写的高性能推理框架，可以在所有平台上提供 C++语言的实现，并且也能在 Linux 平台上提供 Python 语言的实现。同时，TensorRT 推理应用程序与英伟达的 GPU 结合可以提供最大的吞吐量和较低的延迟速度。TensorRT 已经支持对常用的深度学习框架（例如，PyThorch、TensorFlow 等）训练出来的网络模型进行优化。

一、TensorRT 工具包安装

1.1 查看本机系统版本、cuda、cudnn版本

1、查看系统版本
uname -a 
1
2

声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：【wpsshop博客】

【YOLO】yolov5+TensorRT推理_tensorrt推理yolov5

YOLO系列学习

文章目录

前言

一、TensorRT 工具包安装

1.1 查看本机系统版本、cuda、cudnn版本