当前位置:   article > 正文

ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)_ubuntu tensorrt

ubuntu tensorrt

前言

看了无数教程和b站视频,啊啊啊啊啊啊啊啊啊啊啊tensorRT要我狗命啊。我要写全网tensorRT最全的博客!!!
总体来说成功安装方式有两种,pip安装和tar.gz安装(其实官网安装方式居多,奈何没有sudu权限~)我在两台服务器上分别用连这个红安装了tensorRT8.6.1,
硬件:
ubuntu 20.04
cuda:11.0
查看指令:cat usr/local/cuda/version.txt cat /etc/issue
在这里插入图片描述

pip安装

参考:NVIDIA官方安装教程

安装指令:
进入anaconda环境,python3 -m pip install --upgrade tensorrt (安装最新版)
测试:

python3
>>> import tensorrt
>>> print(tensorrt.__version__)
>>> assert tensorrt.Builder(tensorrt.Logger())
  • 1
  • 2
  • 3
  • 4

可能出现的报错:

1.[08/31/2023-13:45:20] [TRT] [W] CUDA lazy loading is not enabled. Enabling it can significantly reduce device memory usage. See CUDA_MODULE_LOADING in https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#env-vars
2.CUDA initialization failure with error: 35. Please check your CUDA installation:
解决方案:
pip uninstall tensorrt
pip install tensorrt==查看安装版本,一个一个试
(毕竟我也没办法升级显卡驱动等等~)

成功安装,如下:
在这里插入图片描述

tar.gz安装

参考官方安装教程:https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar

  1. 进入下载页面官方下载,注册然后点击“NVIDIA TensorRT 8.x Download”,勾选“ I Agree To the Terms of the NVIDIA TensorRT License Agreement”
    在这里插入图片描述2. 把压缩包放在可放的路径,解压:
    tar zxf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
    cd TensorRT-8.6.1.6
    export LD_LIBRARY_PATH= L D L I B R A R Y P A T H : / h o m e / 用户名 / 1. s o f t w a r e s / T e n s o r R T − 8.6.1.6 / l i b s o u r c e   / . b a s h r c e x p o r t L D L I B R A R Y P A T H = LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/lib source ~/.bashrc export LD_LIBRARY_PATH= LDLIBRARYPATH:/home/用户名/1.softwares/TensorRT8.6.1.6/libsource /.bashrcexportLDLIBRARYPATH=LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/include/
    source ~/.bashrc 在这里插入图片描述
  2. 参考官网,pip安装各种包
    在这里插入图片描述
    这些wheel都在TensorRT-8.6.1.6文件夹中,cd过去pip就行
    在这里插入图片描述
  3. 测试
cd 1.softwares/TensorRT-8.6.1.6/samples/sampleOnnxMNIST
make
../../bin/sample_onnx_mnist
  • 1
  • 2
  • 3

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
参考连接:
https://zhuanlan.zhihu.com/p/392143346
【Linux安装Tensorrt】 https://www.bilibili.com/video/BV1kB4y117NZ/?share_source=copy_web&vd_source=4e0c29ba5725db288c1234b3d73dcfce
https://blog.csdn.net/qq_42160143/article/details/129837613

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/605416
推荐阅读
相关标签
  

闽ICP备14008679号