当前位置:   article > 正文

全流程打通!YOLOV5标注&训练&部署:Windows/Linux/Jetson Nano

yolov5部署

作者 | msnh2012  编辑 | 极市平台

点击下方卡片,关注“自动驾驶之心”公众号

ADAS巨卷干货,即可获取

点击进入→自动驾驶之心【模型部署】技术交流群

导读

 

本文将分windows和linux, pc和jetson nx平台分别给大家讲解如何使用Msnhnet部署yolov5. 

准备工作和数据标注

1. 安装配置Cuda, Cudnn, Pytorch该部分不进行详细介绍, 具体过程请百度.此处小编使用Pytorch1.9.、

2. 制作自己的数据集这里小编给大家准备了一个人体检测的数据集,供大家测试使用.链接:https://pan.baidu.com/s/1lpyNNdYqdKj8R-RCQwwCWg  提取码:6agk

3. 数据集准备工作.(1) 层级关系yolov5数据集所需的文件夹结构,以小编提供的数据集为例.

  • people文件夹下包含两个子文件夹images(用于存放图片)和labels(用于存放标签文件).

  • images文件夹下包含train和val两个文件夹,分别存放训练集的图片和验证集的图片.

  • labels文件夹下包含train和val两个文件夹,分别存放训练集的标签和验证集的标签.

    c94a7b75af531ce7e0299d77fbca5d84.jpeg
    dataset.png

(2) 下载标注软件这里小编自己编写了一款标注软件,直接支持导出yolov5格式。链接:https://pan.baidu.com/s/1AI5f5BYbboK0KYpHf7v4-A  提取码:19o1

6f65e5e246ae9fac943647889dd2b7a0.jpeg
标注软件界面展示

(3) 准备需要标注的数据(注意本软件单次只能标注1000张,建议单次500张以下)这里我简单准备了5张猫狗数据的。

3883860f44e3194ba49144bfbdeeee75.jpeg
猫狗数据集展示

(4) 准备标签文件新建一个labels.txt文件(名字任意).将类名按照自己需要的顺序进行输入(注意,这里的顺序关系到最后导出yolov5 labels文件的标签顺序)

12cc09e1063e6a3c72f0af99025568fa.jpeg
labels.txt内容

4. 开始标注

(1) 导入图片和标签文件

打开CasiaLabeler软件.点击 标注>打开 导入图片.点击 标注>添加标签导入标签。选择之前创建的标签文件,导入后如图。

89711c5c18d4fc37bd8f8b875fd65e6e.jpeg
导入标签

(2) 开始标注并指定标签初步框选标注对象。

082d4a87f7ca33f25dccad9a0e61611b.jpeg
框选目标

在标注信息栏,修改目标的标签。

5786fcb9b868f58be71f46b44184927e.jpeg
修改目标的标签

在属性窗口可以修改标注框的颜色。

4246e1221fb005e2fe97b052dfac99ba.jpeg
属性窗口

完成之后。(PS.标注框可以通过Ctrl+C和Ctrl+V进行复制粘贴)

ddd3cc15df8a9193779f5e8a3e8d7b92.jpeg
标注完成效果展示

(3) 导出标注结果点击 标注>导出标注结果>yolov5 ,并指定一个空文件夹。

1040722e1e699f40e2f76d978ac64a2a.jpeg
标签导出到一个空文件夹

(4) 整理数据集层级结构

d5c5dc8a9bbff120f56fb59e0271e453.jpeg
数据集的组织结构按照这个图排列

PS.

  • 1.标注过程请及时保存工程文件。

  • 2.第一次保存工程后,会在工程目录下间隔一定时间自动保存工程。可以点击 帮助>设置 选择自动保存时间间隔。

    80cce09f656b18d6cfd17ef893240998.jpeg
    标注工程保存间隔时间设置,可调节
  • 3.标注完成后,可以自动切换下一张预览标注结果。点击 视图>预览 即可自动切换标注场景,切换间隔时间按可以点击 帮助>设置 设置预览间隔时间。

    03243695fd24d88c014bde8addb5f159.jpeg
    设置预览间隔时间
  • 4.在标注一部分图片后,图片的位置发生了变化,或者图片拷贝至另外一台的电脑上,则会出现路径丢失的情况。

    85e47c7a34b42f8d01600707c52b2ddb.jpeg
    容错机制
  • 5.丢失解决方法,点击 帮助>设置.在图片路径修改处,选择需要修改的工程,并指定图片新的路径,点击 转换 即可完成工程文件修复。再次打开工程即可。

    f58e677f81c9861dd063db6b1287fd0d.jpeg
    丢失解决方法

5. 准备Yolov5代码1 Clone代码git clone https://github.com/msnh2012/MsnhnetModelZoo.git**(注意!必须Clone小编为msnhnet定制的代码!)**2 安装依赖pip install requirements.txt(可以手动安装)

6. 准备Yolov5预训练模型

(1) 这里小编已经给大家准备好了预训练模型(yolov5_pred文件夹中)链接:https://pan.baidu.com/s/1lpyNNdYqdKj8R-RCQwwCWg 提取码:6agk

(2) 将下载好的预训练模型文件拷贝至yolov5ForMsnhnet/yolov5/weights文件夹下

模型训练

1. 准备工作(1) 数据集准备(这里以people数据集为例)

  • 将标注好的数据集放置在datas文件夹下。

  • 在datas文件夹下创建一个people.yaml文件,用于配置数据集信息。

  • train: 训练集图片位置

  • val: 验证集图片位置

  • nc: 类别数量

  • names: 所有类的名称

    b0f32d2f1c82d489d3e243cc46e0cd70.jpeg
    yaml文件配置

(2) 选择所需训练的模型(这里以yolov5m为例)

  • 在models文件夹下,复制一份yolov5m.yaml,重新命名为yolov5m_people.yaml.

  • 将nc改为1(还是一样,改成数据集的类的个数).

    4b2c23c7f38ab0d448b04e91778a19b3.jpeg
    nc代表数据集目标类别总数

(3) 关于anchors

`# anchors
anchors:

  • [10,13, 16,30, 33,23]  # P3/8

  • [30,61, 62,45, 59,119]  # P4/16

  • [116,90, 156,198, 373,326]  # P5/32
    `

anchors参数共有三行,每行9个数值;每一行代表不同的特征图;

  • 第一行是在最大的特征图上的anchors

  • 第二行是在中间的特征图上的anchors

  • 第三行是在最小的特征图上的anchors

  • yolov5会在训练最开始自动对anchors进行check(可以修改 train.py中以下代码使用或者不使用自动anchor).

parser.add_argument('--noautoanchor', action='store_true', help='disable autoanchor check')

  • 如果标注信息对anchor的最佳召回率>=0.98,则不需要重新计算anchor,反之则需要从新计算。

check代码如下:

  • 参数:

  • dataset: 数据集

  • model: 模型

  • thr: dataset中标注框宽高比最大阈值,参数在超参文件 hyp.scratch.yaml"中"anchor_t"设置。

  • imgsz: 图片尺寸

  1. def check_anchors(dataset, model, thr=4.0, imgsz=640):
  2. # Check anchor fit to data, recompute if necessary
  3. print('\nAnalyzing anchors... ', end='')
  4. m = model.module.model[-1] if hasattr(model, 'module') else model.model[-1] # Detect()
  5. shapes = imgsz * dataset.shapes / dataset.shapes.max(1, keepdims=True)
  6. scale = np.random.uniform(0.9, 1.1, size=(shapes.shape[0], 1)) # augment scale
  7. wh = torch.tensor(np.concatenate([l[:, 3:5] * s for s, l in zip(shapes * scale, dataset.labels)])).float() # wh
  8. def metric(k): # compute metric
  9. r = wh[:, None] / k[None]
  10. x = torch.min(r, 1. / r).min(2)[0] # ratio metric
  11. best = x.max(1)[0] # best_x
  12. aat = (x > 1. / thr).float().sum(1).mean() # anchors above threshold
  13. bpr = (best > 1. / thr).float().mean() # best possible recall
  14. return bpr, aat
  15. bpr, aat = metric(m.anchor_grid.clone().cpu().view(-1, 2))
  16. print('anchors/target = %.2f, Best Possible Recall (BPR) = %.4f' % (aat, bpr), end='')
  17. if bpr < 0.98: # threshold to recompute
  18. print('. Attempting to generate improved anchors, please wait...' % bpr)
  19. na = m.anchor_grid.numel() // 2 # number of anchors
  20. new_anchors = kmean_anchors(dataset, n=na, img_size=imgsz, thr=thr, gen=1000, verbose=False)
  21. new_bpr = metric(new_anchors.reshape(-1, 2))[0]
  22. if new_bpr > bpr: # replace anchors
  23. new_anchors = torch.tensor(new_anchors, device=m.anchors.device).type_as(m.anchors)
  24. m.anchor_grid[:] = new_anchors.clone().view_as(m.anchor_grid) # for inference
  25. m.anchors[:] = new_anchors.clone().view_as(m.anchors) / m.stride.to(m.anchors.device).view(-1, 1, 1) # loss
  26. check_anchor_order(m)
  27. print('New anchors saved to model. Update model *.yaml to use these anchors in the future.')
  28. else:
  29. print('Original anchors better than new anchors. Proceeding with original anchors.')
  30. print('') # newline
  • 聚类anchor代码

  • 参数

  • path: 之前创建的people.yaml数据集配置文件路径。

  • n: anchors 组数量 xx,xx为一组

  • img_size: 图片尺寸。

  • thr:  dataset中标注框宽高比最大阈值,参数在超参文件 hyp.scratch.yaml"中"anchor_t"设置。

  • gen: kmean算法iter次数。

  • verbose: 是否打印结果。

  1. def kmean_anchors(path='./data/coco128.yaml', n=9, img_size=640, thr=4.0, gen=1000, verbose=True):
  2. """ Creates kmeans-evolved anchors from training dataset
  3. Arguments:
  4. path: path to dataset *.yaml, or a loaded dataset
  5. n: number of anchors
  6. img_size: image size used for training
  7. thr: anchor-label wh ratio threshold hyperparameter hyp['anchor_t'] used for training, default=4.0
  8. gen: generations to evolve anchors using genetic algorithm
  9. Return:
  10. k: kmeans evolved anchors
  11. Usage:
  12. from utils.general import *; _ = kmean_anchors()
  13. """
  14. thr = 1. / thr
  15. def metric(k, wh): # compute metrics
  16. r = wh[:, None] / k[None]
  17. x = torch.min(r, 1. / r).min(2)[0] # ratio metric
  18. # x = wh_iou(wh, torch.tensor(k)) # iou metric
  19. return x, x.max(1)[0] # x, best_x
  20. def fitness(k): # mutation fitness
  21. _, best = metric(torch.tensor(k, dtype=torch.float32), wh)
  22. return (best * (best > thr).float()).mean() # fitness
  23. def print_results(k):
  24. k = k[np.argsort(k.prod(1))] # sort small to large
  25. x, best = metric(k, wh0)
  26. bpr, aat = (best > thr).float().mean(), (x > thr).float().mean() * n # best possible recall, anch > thr
  27. print('thr=%.2f: %.4f best possible recall, %.2f anchors past thr' % (thr, bpr, aat))
  28. print('n=%g, img_size=%s, metric_all=%.3f/%.3f-mean/best, past_thr=%.3f-mean: ' %
  29. (n, img_size, x.mean(), best.mean(), x[x > thr].mean()), end='')
  30. for i, x in enumerate(k):
  31. print('%i,%i' % (round(x[0]), round(x[1])), end=', ' if i < len(k) - 1 else '\n') # use in *.cfg
  32. return k
  33. if isinstance(path, str): # *.yaml file
  34. with open(path) as f:
  35. data_dict = yaml.load(f, Loader=yaml.FullLoader) # model dict
  36. from utils.datasets import LoadImagesAndLabels
  37. dataset = LoadImagesAndLabels(data_dict['train'], augment=True, rect=True)
  38. else:
  39. dataset = path # dataset
  40. # Get label wh
  41. shapes = img_size * dataset.shapes / dataset.shapes.max(1, keepdims=True)
  42. wh0 = np.concatenate([l[:, 3:5] * s for s, l in zip(shapes, dataset.labels)]) # wh
  43. # Filter
  44. i = (wh0 < 3.0).any(1).sum()
  45. if i:
  46. print('WARNING: Extremely small objects found. '
  47. '%g of %g labels are < 3 pixels in width or height.' % (i, len(wh0)))
  48. wh = wh0[(wh0 >= 2.0).any(1)] # filter > 2 pixels
  49. # Kmeans calculation
  50. print('Running kmeans for %g anchors on %g points...' % (n, len(wh)))
  51. s = wh.std(0) # sigmas for whitening
  52. k, dist = kmeans(wh / s, n, iter=30) # points, mean distance
  53. k *= s
  54. wh = torch.tensor(wh, dtype=torch.float32) # filtered
  55. wh0 = torch.tensor(wh0, dtype=torch.float32) # unflitered
  56. k = print_results(k)
  57. # Plot
  58. # k, d = [None] * 20, [None] * 20
  59. # for i in tqdm(range(1, 21)):
  60. # k[i-1], d[i-1] = kmeans(wh / s, i) # points, mean distance
  61. # fig, ax = plt.subplots(1, 2, figsize=(14, 7))
  62. # ax = ax.ravel()
  63. # ax[0].plot(np.arange(1, 21), np.array(d) ** 2, marker='.')
  64. # fig, ax = plt.subplots(1, 2, figsize=(14, 7)) # plot wh
  65. # ax[0].hist(wh[wh[:, 0]<100, 0],400)
  66. # ax[1].hist(wh[wh[:, 1]<100, 1],400)
  67. # fig.tight_layout()
  68. # fig.savefig('wh.png', dpi=200)
  69. # Evolve
  70. npr = np.random
  71. f, sh, mp, s = fitness(k), k.shape, 0.9, 0.1 # fitness, generations, mutation prob, sigma
  72. pbar = tqdm(range(gen), desc='Evolving anchors with Genetic Algorithm') # progress bar
  73. for _ in pbar:
  74. v = np.ones(sh)
  75. while (v == 1).all(): # mutate until a change occurs (prevent duplicates)
  76. v = ((npr.random(sh) < mp) * npr.random() * npr.randn(*sh) * s + 1).clip(0.3, 3.0)
  77. kg = (k.copy() * v).clip(min=2.0)
  78. fg = fitness(kg)
  79. if fg > f:
  80. f, k = fg, kg.copy()
  81. pbar.desc = 'Evolving anchors with Genetic Algorithm: fitness = %.4f' % f
  82. if verbose:
  83. print_results(k)
  84. return print_results(k)

(4) train文件复制一个train.py文件命名为train_people.py.修改模型参数。

39acc792572a7825d9f8cc91f8417935.jpeg
模型可配置的超参数

修改opt参数:

  • weights: 加载的权重文件(weights文件夹下yolov5m.pt)

  • cfg: 模型配置文件,网络结构(model文件夹下yolov5m_people.yaml)

  • data: 数据集配置文件,数据集路径,类名等(datas文件夹下people.yaml)

  • hyp: 超参数文件

  • epochs: 训练总轮次

  • batch-size: 批次大小

  • img-size: 输入图片分辨率大小(512*512)

  • rect: 是否采用矩形训练,默认False

  • resume: 接着打断训练上次的结果接着训练

  • nosave: 不保存模型,默认False

  • notest: 不进行test,默认False

  • noautoanchor: 不自动调整anchor,默认False

  • evolve: 是否进行超参数进化,默认False

  • bucket: 谷歌云盘bucket,一般不会用到

  • cache-images: 是否提前缓存图片到内存,以加快训练速度,默认False

  • name: 数据集名字,如果设置:results.txt to results_name.txt,默认无

  • device: 训练的设备,cpu;0(表示一个gpu设备cuda:0);0,1,2,3(多个gpu设备)

  • multi-scale: 是否进行多尺度训练,默认False

  • single-cls: 数据集是否只有一个类别,默认False

  • adam: 是否使用adam优化器

  • sync-bn: 是否使用跨卡同步BN,在DDP模式使用

  • local_rank: gpu编号

  • logdir: 存放日志的目录

  • workers: dataloader的最大worker数量(windows需设置为0)

f6553c9d206445f4dc495bba2f133071.jpeg
超参数配置

2. 开始train

train_people.py
80005d8ce82315b49055412f6962ae44.jpeg
训练流程展示

训练过程中,会在yolov5/runs文件夹下生成一个exp文件夹。

  • weights包含训练过程中最后一次训练好的模型last.pt和历史最佳模型best.pt。

  • events文件可以使用tensorboard查看训练过程。在exp文件夹中,打开终端,运行tensorboard --logdir=.在浏览器中输入http://localhost:6006/可查看训练过程与曲线.5209af2f67383211b24e28d65a3ab676.jpeg

  • 其它过程文件。

推理测试

  • 将runs/exp文件夹下的best.pt文件拷贝到weights文件夹下。

  • 在inference/images文件夹下放置几个测试图片。这里放置一张官方的bus.jpg

ca6ddfc3edfa983a1f936c9d962c669d.jpeg
bus.jpg

在yolov5文件夹中打开终端,执行:python detect --weights weights/best.pt --source inference/images --output inference/output

  • 在inference/output文件夹中会生成推理结果。

407104cd047e43a71cbe817ae9ca607f.jpeg
预测结果

至此,使用pytorch训练yolov5模型完成,下一节将介绍如何在CMake(c++),Winform(C#)以及windows(PC),linux(Jetson Nx)中使用Msnhnet部署yolov5.

基于MsnhNet部署yolov5

本篇将分windows和linux, pc和jetson nx平台分别给大家讲解如何使用Msnhnet部署yolov5.

pytorch模型转msnhnet

在yolov5文件夹下打开终端。将best.pt拷贝至weights文件夹下。执行

python yolov5ToMsnhnet.py

yolov5ToMsnhnet.py文件内容:

`from PytorchToMsnhnet import *
Msnhnet.Export = True
from models.experimental import attempt_load
import torch

weights     = "weights/best.pt" # pt文件
msnhnetPath = "yolov5m.msnhnet" # 导出.msnhnet文件
msnhbinPath = "yolov5m.msnhbin" # 导出.msnhbin文件

model = attempt_load(weights, "cpu")
model.eval() # cpu模式,推理模式

img = torch.rand(5125123).reshape(1,3,512,512) #生成随机推理数据

tans(model,img,msnhnetPath,msnhbinPath) #模型转换
`

导出成功后会在文件夹下生成yolov5m.msnhnet和yolov5m.msnhbin文件。

Windows 篇

1. 准备工作(1) 安装Visual studio

  • 网址:https://visualstudio.microsoft.com/zh-hans/

  • 下载visual studio 2017以上任意版本进行安装。此处勾选.Net桌面开发和使用c++的桌面开发。

a72e41ea84574db18690eb91c30db0fa.jpeg
vs安装界面

(2) 安装cuda和cudnn, 此处请自行百度.

  • cuda网址:https://developer.nvidia.com/cuda-downloads

  • cudnn网址:https://developer.nvidia.com/zh-cn/cudnn

  • 下载cudaxx.exe文件安装cuda(此过程最好使用cuda中自带的显卡驱动程序),下载cudnnxxx.zip文件,将其解压到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vxx.xx文件夹下,即完成了cuda和cudnn配置。

  • 将C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vxx.xx 添加到系统环境变量。

    108e2f92bb458abc61ba4083265c0119.jpeg
    设置CUDA环境变量

(3) 打开cmd, 输入nvcc.测试cuda是否安装完成。以下结果说明cuda配置完成。

ffc4a584bbd0173845fe31f5e7ec859f.jpeg
CUDA配置成功标志

(4) 安装cmake(建议3.17).

  • cmake下载网址:https://cmake.org/files/v3.17/

  • 下载文件: cmake-3.17.5-win64-x64.msi

  • 完成安装。

(5) clone Msnhnetgit clone https://github.com/msnh2012/Msnhnet.git2. 编译OpenCV库(1) 小编这里给大家准备好了OpenCV的源码文件,不用科学上网了。链接:https://pan.baidu.com/s/1lpyNNdYqdKj8R-RCQwwCWg 提取码:6agk(2) 打开cmake-gui.exe。

f11372ae6e184fd2e47a5cb7c1b6078a.jpeg
选择OpenCV和要编译的目标路径

(3) 点击config选择安装的visual studio版本,选择x64(此处以VS2017为例),点击Finish,等待配置完成.

dbaa23087985f1741abf5d1952e87684.jpeg
选择安装的visual studio版本

(4) 参数配置.

  1. - CMAKE_INSTALL_PREFIX #指定安装位置,如: D:/libs/opencv
  2. - CPU_BASELINE #选择AVX2(如果CPU支持AVX2加速)
  3. - BUILD_TESTS #取消勾选

(5) 点击generate->Generating done.

(6) 点击Open Project.分别选择Debug右键生成。(此过程需要等待10min~60min不等,根据电脑配置)

8c7e81f92272f0c7461b84d9f1931502.jpeg
OpenCV编译

(7) 右键安装。(会将编译好的可执行文件安装在指定安装位置,如:D:/libs/opencv)

901bbbaed3da27caaa623928da0e67d0.jpeg
安装OpenCV到指定路径

(8) 重复6-7步选择Release版本进行编译安装。

(9) 指定OpenCV_DIR环境变量,用于CMakeList能使用FindPackage找到OpenCV.

3dcac2ec9b756cbdce39ad3ffe207a4e.jpeg
OpenCV环境变量

(10) 指定Path环境变量.在Path环境变量下添加Opencv的bin文件夹位置,如: D:\libs\opencv\x64\vc15\bin

3. 编译Msnhnet库

(1) 打开cmake-gui.exe。

dc151f15c151dc62a27efc4c187ee6e0.jpeg
选中Msnhnet源码路径和build文件夹路径

(2) 点击config选择安装的visual studio版本,选择x64(此处以VS2017为例),点击Finish,等待配置完成.

1cc781397922a2ef040e76a28062994c.jpeg
选择安装的visual studio版本

(3) 勾选以下参数。

  1. - CMAKE_INSTALL_PREFIX #指定安装位置,如: D:/libs/Msnhnet
  2. - BUILD_EXAMPLE #构建示例
  3. - BUILD_SHARED_LIBS #构建动态链接库
  4. - BUILD_USE_CUDNN #使用CUDNN
  5. - BUILD_USE_GPU #使用GPU
  6. - BUILD_USE_OPENCV #使用OPENCV
  7. - ENABLE_OMP #使用OMP
  8. - OMP_MAX_THREAD #使用最大核心数
f002f1451ed7d58ad03287e9a0e7d4bf.jpeg
编译Msnhnet cmake选项

(4) 点击generate->Generating done.

(5) 点击Open Project.分别选择Debug右键生成。

92a1fa8581b3d92f3c3b29aac9cdadc3.jpeg
VS编译MsnhNet

(6) 右键安装。(会将编译好的可执行文件安装在指定安装位置,如:D:/libs/Msnhnet)

cfee3adfadcc3f0f132594af338bbf62.jpeg
VS安装MsnhNet

(7) 重复6-7步选择Release版本进行编译安装。

(8) 指定Msnhnet_DIR环境变量,用于CMakeList能使用FindPackage找到Msnhnet.

16b720c2878825b989ddacbb09de6bed.jpeg
配置MsnhNet环境变量

(9)指定Path环境变量.在Path环境变量下添加Msnhnet的bin文件夹位置,如: D:\libs\Msnhnet\bin

(10) 测试。

  • 下载小编准备好的一系列Msnhnet测试模型。并解压到如D盘根目录 链接:https://pan.baidu.com/s/1mBaJvGx7tp2ZsLKzT5ifOg 提取码:x53z

  • 在Msnhnet安装目录打开终端。执行:

  1. yolov3_gpu D:/models
  2. yolov3_gpu_fp16 D:/models #fp16推理
a1aa5b674a13e9fd00facd9902a44009.jpeg
推理结果展示
  • 当然,你可以可以测试其它模型。

4. 使用C#部署Msnhnet

(1) clone MsnhnetSharp

git clone https://github.com/msnh2012/MsnhnetSharp

(2) 双击打开MsnhnetSharp.sln文件。

(3) 选择x64平台和Release模式,右键生成MsnhnetSharp,再生成MsnhnetForm.

(4) 点击启动按钮。

(5) 在参数配置栏,分别指定msnhnetPath和msnhbinPath为之前导出的yolov5m的参数。然后将上一节制作好的labels.txt文件,复制一份,重命名为labels.names.

(6) 点击初始化网络。等待初始化完成,init done.

(7) 点击读取图片, 选择那张bus.jpg.

(8) 点击yolo GPU(Yolo Detect GPU). 第一次推理时间较长。

(9) 点击重置图片。

(10) 再次点击yolo GPU(Yolo Detect GPU). 随后推理时间正常。

a2a5d6041c9415334653cef820497cf2.jpeg
界面展示

至此,使用C#部署Msnhnet完成,后续可以参考MsnhnetForm将MsnhnetSharp部署到你自己的工程中。

5. 使用CMake部署Msnhnet

工程文件源码:链接:https://pan.baidu.com/s/1lpyNNdYqdKj8R-RCQwwCWg 提取码:6agk

(1) 新建MsnhnetPrj文件夹

(2) 将yolov5m.msnhnet,yolov5m.msnhbin,labels.txt拷贝到MsnhnetPrj文件夹内

(3) 新建CMakeLists.txt文件

  1. cmake_minimum_required(VERSION 3.15)
  2. project(yolov5m_msnhnet
  3. LANGUAGES CXX C CUDA
  4. VERSION 1.0)
  5. find_package(OpenCV REQUIRED)
  6. find_package(Msnhnet REQUIRED)
  7. find_package(OpenMP REQUIRED)
  8. add_executable(yolov5m_msnhnet yolov5m_msnhnet.cpp)
  9. target_include_directories(yolov5m_msnhnet PUBLIC ${Msnhnet_INCLUDE_DIR})
  10. target_link_libraries(yolov5m_msnhnet PUBLIC ${OpenCV_LIBS} Msnhnet)

(4) 新建yolov5m_msnhnet.cpp文件

  1. #include "Msnhnet/net/MsnhNetBuilder.h"
  2. #include "Msnhnet/io/MsnhIO.h"
  3. #include "Msnhnet/config/MsnhnetCfg.h"
  4. #include "Msnhnet/utils/MsnhOpencvUtil.h"
  5. void yolov5sGPUOpencv(const std::string& msnhnetPath, const std::string& msnhbinPath, const std::string& imgPath, const std::string& labelsPath)
  6. {
  7. try
  8. {
  9. Msnhnet::NetBuilder msnhNet;
  10. Msnhnet::NetBuilder::setOnlyGpu(true);
  11. //msnhNet.setUseFp16(true); //开启使用FP16推理
  12. msnhNet.buildNetFromMsnhNet(msnhnetPath);
  13. std::cout<<msnhNet.getLayerDetail();
  14. msnhNet.loadWeightsFromMsnhBin(msnhbinPath);
  15. std::vector<std::string> labels ;
  16. Msnhnet::IO::readVectorStr(labels, labelsPath.data(), "\n");
  17. Msnhnet::Point2I inSize = msnhNet.getInputSize();
  18. std::vector<float> img;
  19. std::vector<std::vector<Msnhnet::YoloBox>> result;
  20. img = Msnhnet::OpencvUtil::getPaddingZeroF32C3(imgPath, cv::Size(inSize.x,inSize.y));
  21. for (size_t i = 0; i < 10; i++)
  22. {
  23. auto st = Msnhnet::TimeUtil::startRecord();
  24. result = msnhNet.runYoloGPU(img);
  25. std::cout<<"time : " << Msnhnet::TimeUtil::getElapsedTime(st) <<"ms"<<std::endl<<std::flush;
  26. }
  27. cv::Mat org = cv::imread(imgPath);
  28. Msnhnet::OpencvUtil::drawYoloBox(org,labels,result,inSize);
  29. cv::imshow("test",org);
  30. cv::waitKey();
  31. }
  32. catch (Msnhnet::Exception ex)
  33. {
  34. std::cout<<ex.what()<<" "<<ex.getErrFile() << " " <<ex.getErrLine()<< " "<<ex.getErrFun()<<std::endl;
  35. }
  36. }
  37. int main(int argc, char** argv)
  38. {
  39. std::string msnhnetPath = "yolov5m.msnhnet";
  40. std::string msnhbinPath = "yolov5m.msnhbin";
  41. std::string labelsPath = "labels.txt";
  42. std::string imgPath = "bus.jpg";
  43. yolov5sGPUOpencv(msnhnetPath, msnhbinPath, imgPath,labelsPath);
  44. getchar();
  45. return 0;
  46. }

(5) 配置CMake打开cmake-gui.exe,按以下配置。点击Config.Generate

834ddb03d342f145a8adce949f0daf21.jpeg
基于Cmake编译Msnhnet,更加方便的方式

(6) 编译,点击Open Project,选择Release模式,参考之前编译Msnhnet直接生成。

d0de870c3b0c1ddd61c27afd1431edf8.jpeg
编译MsnhNet工程

(7) 拷贝可执行文件。

从MsnhnetPrj/build/Release/yolov5m_msnhnet.exe拷贝到MsnhnetPrj目录。

(8) 部署结果双击yolov5m_msnhnet.exe查看部署结果。

0dd97eb94b508db027beaf9d4010f674.jpeg
推理完成

Linux(Jetson NX) 篇

1. 准备工作一般来说,Jetson都已经自带了cuda和cudnn,故不用专门安装。

  • 安装构建工具

sudo apt-get install build-essential
  • 安装opencv

sudo apt-get install libopencv

2. 编译Msnhnet库

(1) 终端打开cmake-gui。

98bf068ec95791493934923b813d161b.jpeg
cmake-gui界面

(2) 点击config选择cmake的编译链

d1267612b5661725cfe4f638df024471.jpeg
使用默认的gcc编译器

(3) 勾选以下参数。

  1. - CMAKE_INSTALL_PREFIX #指定安装位置,如: D:/libs/Msnhnet
  2. - BUILD_EXAMPLE #构建示例
  3. - BUILD_SHARED_LIBS #构建动态链接库
  4. - BUILD_USE_CUDNN #使用CUDNN
  5. - BUILD_USE_GPU #使用GPU
  6. - BUILD_USE_NEON #使用neon加速
  7. - BUILD_USE_OPENCV #使用OPENCV
  8. - ENABLE_OMP #使用OMP
  9. - OMP_MAX_THREAD #使用最大核心数
b5f18303a2912f65c9f3019d98fdf531.jpeg
Linux Cmake编译MsnhNet的编译选项

(4) 点击generate->Generating done.

(5) 在Msnhnet/build文件夹中打开终端。

  1. make -j
  2. sudo make install

(6) 配置系统环境变量

  1. sudo gedit /etc/ld.so.conf.d/usr.confg
  2. # 添加: /usr/local/lib
  3. sudo ldconfig

(7) 测试

  • 下载小编准备好的一系列Msnhnet测试模型。并解压到如home根目录

  • 链接:https://pan.baidu.com/s/1mBaJvGx7tp2ZsLKzT5ifOg

  • 提取码:x53z

  1. cd /usr/local/bin
  2. yolov3_gpu /home/xxx/models
  3. yolov3_gpu_fp16 /home/xxx/models #fp16推理
3b57679da21632d8a339d8cc09f2d767.jpeg
预测结果展示
  • 当然,你可以可以测试其它模型。

3. 使用CMake部署Msnhnet工程文件源码链接:https://pan.baidu.com/s/1lpyNNdYqdKj8R-RCQwwCWg 提取码:6agk

(1) 新建MsnhnetPrj文件夹

(2) 将yolov5m.msnhnet,yolov5m.msnhbin,labels.txt拷贝到MsnhnetPrj文件夹内

(3) 新建CMakeLists.txt文件

  1. cmake_minimum_required(VERSION 3.15)
  2. project(yolov5m_msnhnet
  3. LANGUAGES CXX C CUDA
  4. VERSION 1.0)
  5. find_package(OpenCV REQUIRED)
  6. find_package(Msnhnet REQUIRED)
  7. find_package(OpenMP REQUIRED)
  8. add_executable(yolov5m_msnhnet yolov5m_msnhnet.cpp)
  9. target_include_directories(yolov5m_msnhnet PUBLIC ${Msnhnet_INCLUDE_DIR})
  10. target_link_libraries(yolov5m_msnhnet PUBLIC ${OpenCV_LIBS} Msnhnet)

(4) 新建yolov5m_msnhnet.cpp文件

  1. #include <iostream>
  2. #include "Msnhnet/net/MsnhNetBuilder.h"
  3. #include "Msnhnet/io/MsnhIO.h"
  4. #include "Msnhnet/config/MsnhnetCfg.h"
  5. #include "Msnhnet/utils/MsnhOpencvUtil.h"
  6. void yolov5sGPUOpencv(const std::string& msnhnetPath, const std::string& msnhbinPath, const std::string& imgPath, const std::string& labelsPath)
  7. {
  8. try
  9. {
  10. Msnhnet::NetBuilder msnhNet;
  11. Msnhnet::NetBuilder::setOnlyGpu(true);
  12. //msnhNet.setUseFp16(true); //开启使用FP16推理
  13. msnhNet.buildNetFromMsnhNet(msnhnetPath);
  14. std::cout<<msnhNet.getLayerDetail();
  15. msnhNet.loadWeightsFromMsnhBin(msnhbinPath);
  16. std::vector<std::string> labels ;
  17. Msnhnet::IO::readVectorStr(labels, labelsPath.data(), "\n");
  18. Msnhnet::Point2I inSize = msnhNet.getInputSize();
  19. std::vector<float> img;
  20. std::vector<std::vector<Msnhnet::YoloBox>> result;
  21. img = Msnhnet::OpencvUtil::getPaddingZeroF32C3(imgPath, cv::Size(inSize.x,inSize.y));
  22. for (size_t i = 0; i < 10; i++)
  23. {
  24. auto st = Msnhnet::TimeUtil::startRecord();
  25. result = msnhNet.runYoloGPU(img);
  26. std::cout<<"time : " << Msnhnet::TimeUtil::getElapsedTime(st) <<"ms"<<std::endl<<std::flush;
  27. }
  28. cv::Mat org = cv::imread(imgPath);
  29. Msnhnet::OpencvUtil::drawYoloBox(org,labels,result,inSize);
  30. cv::imshow("test",org);
  31. cv::waitKey();
  32. }
  33. catch (Msnhnet::Exception ex)
  34. {
  35. std::cout<<ex.what()<<" "<<ex.getErrFile() << " " <<ex.getErrLine()<< " "<<ex.getErrFun()<<std::endl;
  36. }
  37. }
  38. int main(int argc, char** argv)
  39. {
  40. std::string msnhnetPath = "../yolov5m.msnhnet";
  41. std::string msnhbinPath = "../yolov5m.msnhbin";
  42. std::string labelsPath = "../labels.txt";
  43. std::string imgPath = "../bus.jpg";
  44. yolov5sGPUOpencv(msnhnetPath, msnhbinPath, imgPath,labelsPath);
  45. getchar();
  46. return 0;
  47. }

(5) 编译,在MsnhnetPrj文件夹下打开终端

  1. mkdir build
  2. cd build
  3. make
  4. ./yolov5m_msnhnet

(6) 部署结果

c148353f6f8e2ed98e5ea761cc060fa0.jpeg
基于Cmake构建工程结果展示

Linux(PC) 篇

和Jetson Nx部署类似, 主要区别是先要在Linux上配置好cuda和cudnn, 然后卸载CMake, 安装CMake 3.17版本. 其它的和Jestson NX一样.(ps. 在CMake参数配置里没有NEON项,此为ARM平台专有)到此,使用Msnhnet从0到部署Yolov5网络完成。

28de6f721a6e2bd476e1149d1062b721.png

自动驾驶之心】全栈技术交流群

自动驾驶之心是首个自动驾驶开发者社区,聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D目标检测、BEV感知、多传感器融合、SLAM、光流估计、深度估计、轨迹预测、高精地图、规划控制、模型部署落地、自动驾驶仿真测试、硬件配置、AI求职交流等方向;

c11bb5d4b07b654d112d15b0d078b8a5.jpeg

添加汽车人助理微信邀请入群

备注:学校/公司+方向+昵称

自动驾驶之心【知识星球】

想要了解更多自动驾驶感知(分类、检测、分割、关键点、车道线、3D目标检测、多传感器融合、目标跟踪、光流估计、轨迹预测)、自动驾驶定位建图(SLAM、高精地图)、自动驾驶规划控制、领域技术方案、AI模型部署落地实战、行业动态、岗位发布,欢迎扫描下方二维码,加入自动驾驶之心知识星球(三天内无条件退款),日常分享论文+代码,这里汇聚行业和学术界大佬,前沿技术方向尽在掌握中,期待交流!

26334e73ceb5937956c2a97f3aded18e.jpeg

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/weixin_40725706/article/detail/83268
推荐阅读
相关标签
  

闽ICP备14008679号