瑞芯微rk3588部署yolov5模型实战_在rk3588上部署yolov5

模型转换

  ​使用此yolov5 仓库获取yolov5代码以及模型

通过pt模型转换为onnx模型

python export.py --rknpu rk3588 --weight yolov5s.pt
1

  ​rk_platform 支持 rk1808、rv1109、rv1126、rk3399pro、rk3566、rk3562、rk3568、rk3588、rv1103、rv1106。（实际上，无论平台如何，导出的模型都是相同的）
  ​’yolov5s.pt’ 可以替换为您的模型路径
  ​将生成一个文件名“RK_anchors.txt”，可以在外部执行 post_process 时使用它。
  ​注意：请使用–rknpu参数调用，不要更改export.py中的默认rknpu值。​

通过onnx模型转换为rknn模型

  ​使用此模型转换库
打开yolo_ppyolo.yml文件

#support yolo[v5,v6,v7,v8], ppyoloe_plus
model_framework: onnx
model_file_path: best_3588B.onnx
RK_device_platform: RK3588

dataset: coco_dataset_20.txt
quantize: True
pre_compile: online

graph:
  in_0:
    shape: 3,640,640
    mean_values: 0
    std_values: 255
    img_type: RGB

configs:
  quantized_dtype: asymmetric_quantized-8
  quantized_algorithm: normal
  optimization_level: 3
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

​根据模型修改 yml 配置文件参数

必填项
  ​model_framework 参数，指定模型来源框架，如 onnx / pytorch.
  ​model_file_path 参数，指定模型路径
  ​RK_device_platform 参数，指定RKNN平台
执行参数说明

可选项
  ​默认使用量化。请注意先准备好COCO测试数据集（下载可参考工程目录下datasets内容）。如不使用量化功能，请将 quantize 参数设为 False
  ​默认不启用预编译功能。如需启用请将 pre_compile 参数设为 online，并通过usb口连接npu设备（此功能仅在 RKNN-Toolkit1 上有效，usb口需要能adb连上npu设备，RKNN-Toolkit2 没有此配置）
  ​如需使用模拟器，请将 RK_device_id 设为 simulator
  ​如果是自己训练的模型及数据，请将 dataset 路径指定到对应的训练/测试数据上，model_file_path指定到对应的pt模型路径，模型输入尺寸由 3,640,640 改为 3,h,w，如 3,736,1280
  ​测试 coco benchmark 时，建议使用 200 - 500 张图片进行量化。

使用以下语句转换

./convert_yolo_ppyolo.sh
1

出现Exprot RKNN model即为转换成功

模型部署

使用rknn部署库进行部署
以linux平台为例

编译

根据指定平台修改 build-linux_<TARGET_PLATFORM>.sh中的交叉编译器所在目录的路径 TOOL_CHAIN，例如修改成

export TOOL_CHAIN=~/opt/tool_chain/gcc-9.3.0-x86_64_aarch64-linux-gnu/host
1

然后执行：

./build-linux_<TARGET_PLATFORM>.sh
1

推送执行文件到板子

将 install/rknn_yolo_demo_Linux 拷贝到板子的/data/目录.

adb push install/rknn_yolo_demo_Linux /data/
1

运行(单图测试)

adb shell
cd /data/rknn_yolo_demo_Linux/

export LD_LIBRARY_PATH=./lib

./rknn_yolo_demo yolov5 q8 single_img ./yolov5s_u8.rknn ./model/RK_anchors_yolov5.txt ./model/dog.jpg 
1
2
3
4
5
6

多图测试

cd $(pwd | sed 's/\(rknn_model_zoo\).*/\1/g')
adb push rknn_model_zoo/datasets/COCO/val2017 /userdata/

adb shell
cd /userdata/rknn_yolo_demo/
./rknn_yolo_demo yolov5 q8 multi_imgs ./yolov5s_u8.rknn ./model/RK_anchors_yolov5.txt ./model/coco_dataset_path.txt
1
2
3
4
5
6

群内交流更多技术
130856474