基于昇腾AI | Yolov7模型迁移到昇腾平台EA500I边缘计算盒子的实操指南

近年来，国产化替代的进程正在加快。在众多国产平台中，昇腾平台具有高性能、低功耗、易扩展、软件栈全面成熟等优势，其产品和技术在国内众多领域实现了广泛应用；作为昇腾的APN伙伴和IHV合作伙伴，英码科技携手昇腾推出了一系列边缘计算产品，具备性能强劲、更宽工温、外设接口丰富、利旧性强等特点，同时，得益于昇腾AI软件栈的全面支持，这些产品为各行业AI应用高效、低成本落地提供了强有力的支撑。

YOLOv7是目前YOLO系列目标检测算法的最新版本，能够快速检测多种尺度和多标签的对象，同时具有高精度、低时延等特点，是目标较为主流的目标检测算法，在安防监控、自动驾驶、医疗影像分析等领域发挥着重要的作用。

今天来介绍【基于昇腾AI】技术干货系列的另一个主题：如何将Yolov7模型迁移到昇腾平台？下面以英码科技基于昇腾平台开发的EA500I边缘计算盒子为硬件载体，详细讲解Yolov7模型迁移的流程，以及实际应用的演示。

Yolov7模型迁移到昇腾平台&案例演示

前置条件

开发环境部署说明

基于昇腾平台的全系边缘计算盒子已完成环境部署工作，客户无需重新部署。

Yolov7源码下载

git clone https://github.com/WongKinYiu/yolov7.git

预训练模型的下载

cd yolov7
wget   --no-check-certificate https://github.com/WongKinYiu/yolov7/releases/download/v0.1/yolov7.pt

*温馨提示：如果下载速度慢可到官网下载

验证模型是否可以正常识别图片

python3 detect.py --weight yolov7.pt

训练模型转ONNX模型

由于 Ascend 推理工具还未支持Pytorch的pt,pth模型，需要转换成ONNX才能使用yolov7有两种训练配置文件分别为deploy和traing，Detect层不一样导致转onnx上有略微区别，本次测试的为deploy

python3 export.py --weights yolov7.pt --grid --simplify --img-size 640 640

--weights：指定预训练模型yolov7.pt

--grid: 保留 Detect层

--simplify ：简化onnx模型结构

Yolov7模型推理（EA500I）

1、 环境声明

 export DDK_PATH=$HOME/Ascend/ascend-toolkit/latest
 export NPU_HOST_LIB=$DDK_PATH/runtime/lib64/stub
 export THIRDPART_PATH=${DDK_PATH}/thirdpart
 export LD_LIBRARY_PATH=${THIRDPART_PATH}/lib:$LD_LIBRARY_PATH

创建THIRDPART_PATH路径

mkdir -p ${THIRDPART_PATH}

acllite

注：源码安装ffmpeg主要是为了acllite库的安装 执行以下命令安装x264

# 下载x264
cd ${HOME}
git clone https://code.videolan.org/videolan/x264.git
cd x264
# 安装x264
./configure --enable-shared --disable-asm
make
sudo make install
sudo cp /usr/local/lib/libx264.so.164 /lib

执行以下命令安装ffmpeg

# 下载ffmpeg
cd ${HOME}
wget http://www.ffmpeg.org/releases/ffmpeg-4.1.3.tar.gz --no-check-certificate
tar -zxvf ffmpeg-4.1.3.tar.gz
cd ffmpeg-4.1.3
# 安装ffmpeg
./configure --enable-shared --enable-pic --enable-static --disable-x86asm --enable-libx264 --enable-gpl --prefix=${THIRDPART_PATH}
make -j8
make install

执行以下命令安装acllite

cd ${HOME}/samples/inference/acllite/cplusplus
make
make install

​​​​​​​opencv

执行以下命令安装opencv(注:确保是3.x版本)

sudo apt-get install libopencv-dev

2、样例运行

①数据准备

请从以下链接获取该样例的输入图片，放在data目录下。

cd $HOME/samples/inference/modelInference/sampleYOLOV7/data
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/aclsample/dog1_1024_683.jpg

​​​​​​​​​​​​​​

②ATC模型转换

将前面（5）的yolov7.onnx模型转换为适配昇腾310处理器的离线模型（*.om文件），放在model路径下。

# 为了方便下载，在这里直接给出原始模型下载及模型转换命令,可以直接拷贝执行。​​​​​​​

cd $HOME/samples/inference/modelInference/sampleYOLOV7/model
wget --no-check-certificate https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/yolov7/yolov7x.onnx
wget --no-check-certificate https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/yolov7/aipp.cfg
atc --model=yolov7x.onnx --framework=5 --output=yolov7x --input_shape="images:1,3,640,640"  --soc_version=Ascend310B1  --insert_op_conf=aipp.cfg

③样例编译

执行以下命令，执行编译脚本，开始样例编译。

cd $HOME/samples/inference/modelInference/sampleYOLOV7/scripts
bash sample_build.sh

​​​​​​​​​​​​​​

④样例运行

执行运行脚本，开始样例运行。

bash sample_run.sh

⑤样例结果展示

运行完成后，会在样例工程的out目录下生成推理后的图片，显示对比结果如下所示

结语

以上详细介绍了如何将Yolov7模型迁移到昇腾平台EA500I边缘计算盒子，希望能够帮助提升研发效率、缩短项目落地时间，如需更多技术和产品支持，欢迎留言！