Jetson NX部署YOLOv8实现GPU加速_yolov 8 gpu

Reference
b站：不姓崔的依托答辩
NVIDIA Jetson Xavier NX安装torch和torchvision
注意：此文章是在烧录完成Jetpack5.0.1的基础上
版本号：可通过jtop查看（已安装的前提下）

• Ubuntu20.04
• Jetpack5.0.1
• CUDA：11.4.239
• CuDNN：8.4.1.50
• TensorRT：8.4.1.5
• OpenCV：4.8.1
• Torch1.14.0+44dac51.nv23.02
• Torchvision0.14.1+5e8e2f1

安装Torch

官网链接：Installing PyTorch for Jetson Platform - NVIDIA Docs
如果官网链接在Jetson上打不开可以通过ssh远程传输，在win上打开https://developer.download.nvidia.cn/compute/redist/jp/v51/pytorch/，根据需要下载对应的whl文件
PS：多Torch安装需要创建虚拟环境，官网推荐的是使用virtualenv管理多环境

安装torchvision

通过匹配安装的版本是CPU版本的，只显示0.14.1，而没有后面的一串字符，是无法调用cuda加速的。GPU版本的torchvision只能通过编译进行安装。
PS：torchvision要和torch对应

git clone --branch v0.15.1 https://github.com/pytorch/vision torchvision
cd torchvision
python3 setup.py install --user or python3 setup.py install
1
2
3

验证是否安装成果（可调用cuda版）

import torch
import torchvision
torch.__version__
torchvision.__version__
torch.cuda.is_available() 
1
2
3
4
5

安装pyCUDA

pyCUDA是一个python库，让访问 NVIDIA 的 CUDA 并行计算API更容易。

pip3 install Cython
pip3 install pycuda --user
1
2

安装YOLOv8

注：没梯子的加清华源：【-i https://pypi.tuna.tsinghua.edu.cn/simple】
下载YOLOv8代码

git clone https://kkgithub.com/ultralytics/ultralytics.git
1

pip install onnx==1.4.1
pip install ultralytics
1
2

cd ultralytics
pip install -r requirements.txt
1
2