devbox
寸_铁
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

华为昇腾310B1平台深度学习算法模型转换_value ascend310b1 is invalid for the soc version.

作者：寸_铁 | 2024-07-18 00:13:57

赞

踩

value ascend310b1 is invalid for the soc version.

目录

1 模型转换(集成nms算子到模型中)

1.1 基础模型说明

1.2 模型转换

1.2.1 设置环境变量

1.2.2 安装yolov5依赖（gcc需要>7.5）

1.2.3 转换fp16模型

2 模型转换(使用atc，不集成nms算子)

参考文献：

1 模型转换(集成nms算子到模型中)

1.1 基础模型说明

对于Yolov5模型，华为提供了单独的脚本执行转换，目的通过自定义的Yolov5后处理算子将NMS操作集成到离线模型中，提高推理性能。Yolov5模型转换脚本位于计算库的ascend_yolov5_pt2om，模型转换时使用官方原始yolov5s-v6.1为基础训练的人车非.pt模型，该模型有3个输出。转换工具会自动将3个输出合并为一个输出，并转为onnx模型，之后再转为om模型。默认精度为FP16。

对于INT8，当前转换工具量化后准确率有下降，对于实时性强的场景不适合，暂不使用。

ascend_yolov5_pt2om已上传到csdn资源(你自己的百度网盘里面也有一份)https://download.csdn.net/download/u013171226/89286331?spm=1001.2014.3001.5501

1.2 模型转换

模型转换主要是将.pt模型转为Ascentd可推理的.om模型，包括三种数据类型（fp16、fp32和int8），模型转换过程下。模型转换使用ascend_yolov5_pt2om工程实现。

1.2.1 设置环境变量

source /usr/local/Ascend/ascend-toolkit/set_env.sh

1.2.2 安装yolov5依赖（gcc需要>7.5）

  1. pip install -r requirements.txt
  2. 	  
  3. pip install onnx
  4. pip install onnxruntime==1.6.0
  5. pip install onnxsim
  6.  
  7. pip install opc-tool==0.1.0
  8. pip install decorator 
  9. pip install protobuf==3.20.3
  10. pip install numpy

1.2.3 转换fp16模型

bash common/pth2om.sh --version 6.1 --type fp16 --model yolov5_pcb_608_out3 --img_size 608 --class_num 3 --bs 1 --soc Ascend310B1

其中pth2om.sh脚本内容如下，在ascend_yolov5_pt2om文件夹里面有

  1. ## 帮助信息
  2. ### === Model Options ===
  3. ###  --version      yolov5 tags [2.0/3.1/4.0/5.0/6.0/6.1], default: 6.1
  4. ###  --model        yolov5[n/s/m/l/x], default: yolov5s
  5. ###  --bs           batch size, default: 4
  6. ### === Build Options ===
  7. ###  --type         data type [fp16/int8], default: fp16
  8. ###  --calib_bs     batch size of calibration data (int8 use only), default: 16
  9. ### === Inference Options ===
  10. ###  --mode         infer/val, default: infer
  11. ###  --conf         confidence threshold, default: 0.4
  12. ###  --iou          NMS IOU threshold, default: 0.5
  13. ###  --output_dir   output dir, default: output
  14. ### === Environment Options ===
  15. ###  --soc          soc version [Ascend310/Ascend310P?], default: Ascend310
  16. ### === Help Options ===
  17. ###  -h             print this message
  18.  
  19. help() {
  20.     sed -rn 's/^### ?//;T;p;' "$0"
  21. }
  22.  
  23. ## 参数设置
  24. GETOPT_ARGS=`getopt -o 'h' -al version:,model:,img_size:,channel_num:,bs:,class_num:,type:,calib_bs:,mode:,conf:,iou:,output_dir:,soc: -- "$@"`
  25. eval set -- "$GETOPT_ARGS"
  26. while [ -n "$1" ]
  27. do
  28.     case "$1" in
  29.         -h) help; exit 0 ;; 
  30.         --version) version=$2; shift 2;;
  31.         --model) model=$2; shift 2;;
  32. 		--img_size) img_size=$2; shift 2;;
  33. 		--channel_num) channel_num=$2; shift 2;;
  34.         --bs) bs=$2; shift 2;;
  35. 		--class_num) class_num=$2; shift 2;;
  36.         --type) type=$2; shift 2;;
  37.         --calib_bs) calib_bs=$2; shift 2;;
  38.         --mode) mode=$2; shift 2;;
  39.         --conf) conf=$2; shift 2;;
  40.         --iou) iou=$2; shift 2;;
  41.         --output_dir) output_dir=$2; shift 2;;
  42.         --soc) soc=$2; shift 2;;
  43.         --) break ;;
  44.     esac
  45. done
  46.  
  47. if [[ -z $version ]]; then version=6.1; fi
  48. if [[ -z $model ]]; then model=yolov5s; fi
  49. if [[ -z $img_size ]]; then img_size=608; fi
  50. if [[ -z $channel_num ]]; then channel_num=3; fi
  51. if [[ -z $bs ]]; then bs=4; fi
  52. if [[ -z $class_num ]]; then class_num=3; fi
  53. if [[ -z $type ]]; then type=fp16; fi
  54. if [[ -z $calib_bs ]]; then calib_bs=16; fi
  55. if [[ -z $mode ]]; then mode=infer; fi
  56. if [[ -z $conf ]]; then conf=0.4; fi
  57. if [[ -z $iou ]]; then iou=0.5; fi
  58. if [[ -z $output_dir ]]; then output_dir=output; fi
  59. if [[ -z $soc ]]; then echo "error: missing 1 required argument: 'soc'"; exit 1 ; fi
  60.  
  61. if [[ ${type} == fp16 ]] ; then
  62.     args_info="=== pth2om args === \n version: $version \n model: $model \n bs: $bs \n type: $type \n 
  63.                mode: $mode \n conf: $conf \n iou: $iou \n output_dir: $output_dir \n soc: $soc"
  64.     echo -e $args_info
  65. else
  66.     args_info="=== pth2om args === \nversion: $version \n model: $model \n bs: $bs \n type: $type \n calib_bs: $calib_bs \n 
  67.                mode: $mode \n conf: $conf \n iou: $iou \n output_dir: $output_dir \n soc: $soc"
  68.     echo -e $args_info
  69. fi
  70.  
  71. if [ ! -d ${output_dir} ]; then
  72.   mkdir ${output_dir}
  73. fi
  74.  
  75. ## pt导出om模型
  76. echo "Starting 修改pytorch源码"
  77. git checkout . && git checkout v${version}
  78. git apply v${version}/v${version}.patch
  79.  
  80. echo "Starting 导出onnx模型并简化"
  81. if [[ ${version} == 6* ]] ; then
  82.     python3 export.py --weights=${model}.pt --imgsz=${img_size} --batch-size=${bs} --opset=11 --dynamic || exit 1
  83. else
  84.     python3 models/export.py --weights=${model}.pt --img-size=${img_size} --batch-size=${bs} --opset=11 --dynamic || exit 1
  85. fi
  86. python3 -m onnxsim ${model}.onnx ${model}.onnx --dynamic-input-shape --input-shape images:${bs},${channel_num},${img_size},${img_size} || exit 1
  87. model_tmp=${model}
  88.  
  89. if [ ${type} == int8 ] ; then
  90.     echo "Starting 生成量化数据"
  91.     python3 common/quantize/generate_data.py --img_info_file=common/quantize/img_info_amct.txt --save_path=amct_data --batch_size=${calib_bs} --img_size=${img_size} || exit 1
  92.     
  93.     if [[ ${version} == 6.1 && ${model} == yolov5[nl] ]] ; then
  94.         echo "Starting pre_amct"
  95.         python3 common/quantize/calibration_scale.py --input=${model}.onnx --output=${model}_cali.onnx --mode=pre_amct || exit 1
  96.  
  97.         echo "Starting onnx模型量化"
  98.         bash common/quantize/amct.sh ${model}_cali.onnx || exit 1
  99.         if [[ -f ${output_dir}/result_deploy_model.onnx ]];then
  100.             mv ${output_dir}/result_deploy_model.onnx ${model}_amct.onnx
  101.         fi
  102.         rm -rf ${model}_cali.onnx
  103.  
  104.         echo "Starting after_amct"
  105.         python3 common/quantize/calibration_scale.py --input=${model}_amct.onnx --output=${model}_amct.onnx --mode=after_amct || exit 1
  106.     else
  107.         echo "Starting onnx模型量化"
  108.         bash common/quantize/amct.sh ${model}.onnx || exit 1
  109.         if [[ -f ${output_dir}/result_deploy_model.onnx ]];then
  110.             mv ${output_dir}/result_deploy_model.onnx ${model}_amct.onnx
  111.         fi
  112.     fi
  113.  
  114.     model_tmp=${model}_amct
  115.     if [[ -f ${output_dir}/result_* ]];then
  116.         rm -rf  ${output_dir}/result_result_fake_quant_model.onnx
  117.         rm -rf  ${output_dir}/result_quant.json
  118.     fi
  119. fi
  120.  
  121. echo "Starting 修改onnx模型，添加NMS后处理算子"
  122. python3 common/util/modify_model.py --pt=${model}.pt --onnx=${model_tmp}.onnx --img-size=${img_size} --class-num=${class_num} --conf-thres=${conf} --iou-thres=${iou} || exit 1
  123.  
  124. echo "Starting onnx导出om模型（有后处理）"
  125. bash common/util/atc.sh infer ${model_tmp}_nms.onnx ${output_dir}/${model_tmp}_nms ${img_size} ${channel_num} ${bs} ${soc} || exit 1
  126. rm -rf ${model_tmp}_nms.onnx
  127.  
  128. if [[ ${mode} == val ]] ; then
  129.     echo "Starting onnx导出om模型（无后处理）"
  130.     bash common/util/atc.sh val ${model_tmp}.onnx ${output_dir}/${model_tmp} ${bs} ${soc} || exit 1
  131.     rm -rf ${model_tmp}.onnx
  132. fi
  133.  
  134. echo -e "pth导出om模型 Success \n"

然后atc.sh脚本内容如下，在ascend_yolov5_pt2om文件夹里面也有

  1. mode=$1
  2. onnx=$2
  3. om=$3
  4. img_size=$4
  5. channel_num=$5
  6. bs=$6
  7. soc=$7
  8.  
  9.  
  10. if [ ${mode} == val ];then
  11.     input_shape="images:${bs},${channel_num},${img_size},${img_size}"
  12.     input_fp16_nodes="images"
  13. elif [ ${mode} == infer ];then
  14.     input_shape="images:${bs},${channel_num},${img_size},${img_size};img_info:${bs},4"
  15.     input_fp16_nodes="images;img_info"
  16. fi
  17.  
  18.  
  19. if [[ ${soc} == Ascend310 ]];then
  20.     atc --model=${onnx} \
  21.         --framework=5 \
  22.         --output=${om}_bs${bs} \
  23.         --input_format=NCHW \
  24.         --input_shape=${input_shape} \
  25.         --log=error \
  26.         --soc_version=${soc} \
  27.         --input_fp16_nodes=${input_fp16_nodes} \
  28.         --output_type=FP16
  29. fi
  30.  
  31. if [[ ${soc} == Ascend310B1 ]];then
  32.     atc --model=${onnx} \
  33.         --framework=5 \
  34.         --output=${om}_bs${bs} \
  35.         --input_format=NCHW \
  36.         --input_shape=${input_shape} \
  37.         --log=error \
  38.         --soc_version=${soc} \
  39.         --optypelist_for_implmode="Sigmoid" \
  40.         --op_select_implmode=high_performance \
  41.         --fusion_switch_file=common/util/fusion.cfg \
  42. 		--insert_op_conf=aipp_yolov5.cfg
  43. 		#--input_fp16_nodes=${input_fp16_nodes} 
  44.         #--output_type=FP16 
  45. fi
  46.  
  47. if [[ ${soc} == Ascend310P? ]];then
  48.     atc --model=${onnx} \
  49.         --framework=5 \
  50.         --output=${om}_bs${bs} \
  51.         --input_format=NCHW \
  52.         --input_shape=${input_shape} \
  53.         --log=error \
  54.         --soc_version=${soc} \
  55.         --optypelist_for_implmode="Sigmoid" \
  56.         --op_select_implmode=high_performance \
  57.         --fusion_switch_file=common/util/fusion.cfg \
  58. 		--insert_op_conf=aipp_yolov5.cfg
  59. 		#--input_fp16_nodes=${input_fp16_nodes} 
  60.         #--output_type=FP16 
  61. fi
  62.  
  63.  
  64. if [[ ${soc} == Ascend710 ]];then
  65.     atc --model=${onnx} \
  66.         --framework=5 \
  67.         --output=${om}_bs${bs} \
  68.         --input_format=NCHW \
  69.         --input_shape=${input_shape} \
  70.         --log=error \
  71.         --soc_version=${soc} \
  72.         --optypelist_for_implmode="Sigmoid" \
  73.         --op_select_implmode=high_performance \
  74. 		--fusion_switch_file=common/util/fusion.cfg 
  75. 		#--insert_op_conf=aipp_yolov5.cfg
  76. #       --insert_op_conf=aipp.cfg
  77. #       --insert_op_conf=aipp_yolov5.cfg
  78. fi
  79.  
  80. if [[ ${soc} == Ascend910 ]];then
  81.     atc --model=${onnx} \
  82.         --framework=5 \
  83.         --output=${om}_bs${bs} \
  84.         --input_format=NCHW \
  85.         --input_shape=${input_shape} \
  86.         --log=error \
  87.         --soc_version=${soc} \
  88.         --optypelist_for_implmode="Sigmoid" \
  89.         --op_select_implmode=high_performance \
  90. 		--fusion_switch_file=common/util/fusion.cfg 
  91. 		#--insert_op_conf=aipp_yolov5.cfg
  92. #       --insert_op_conf=aipp.cfg
  93. #       --insert_op_conf=aipp_yolov5.cfg
  94. fi

2 模型转换(使用atc，不集成nms算子)

      上述模型转换都是基于.pt文件转换为.om模型文件。另外，还可以直接应用atc工具将onnx模型转为.om模型。

bash common/util/atc.sh infer yolov5_pcb_608_out3_nms.onnx output/yolov5_pcb_608_out3_nms 1 Ascend310B1

或者直接使用atc工具转换

      （1）人车非模型
        atc --model=yolov5_pcb_608_out3_nms.onnx \
            --framework=5 \
            --output=yolov5_pcb_608_out3_bs4 \
            --input_format=NCHW \
            --input_shape="images:1,3,640,640;img_info:1,4" \
            --log=error \
            --soc_version=Ascend710 \
            --optypelist_for_implmode="Sigmoid" \
            --op_select_implmode=high_performance 
        
      （2）行人结构化模型
        atc --model=pedes_structure.onnx \
            --framework=5 \
            --output=pedes_structure \
            --input_format=NCHW \
            --input_shape="x:-1,3,224,224" \
            --dynamic_batch_size="1,2,4,8" \
            --log=error \
            --soc_version=Ascend710 \
            --optypelist_for_implmode="Sigmoid" \
            --op_select_implmode=high_performance 

参考文献：

海思Hi3519 DV500 部署yolov5并加速优化_dv500移植yolov5-CSDN博客

samples: CANN Samples - Gitee.com

本文内容由网友自发贡献，转载请注明出处：【wpsshop博客】
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号