赞
踩
随着无人机技术的飞速发展和AI智能化技术的日益成熟,无人机航拍已经成为众多领域的重要数据获取方式。然而,与传统的目标检测场景相比,无人机航拍所采集的图像面临着独特的挑战:图像中的目标往往较小,且由于拍摄距离、角度、天气等因素,目标的清晰度可能较低。这些特点使得传统的目标检测算法难以直接应用于无人机航拍场景。因此,研究实践无人机航拍场景下的小目标检测技术具有重要的理论意义和应用价值。
关于无人机相关的场景在我们之前的博文也有一些比较早期的实践,感兴趣的话可以自行移步阅读即可:
《deepLabV3Plus实现无人机航拍目标分割识别系统》
《助力环保河道水质监测,基于yolov5全系列模型【n/s/m/l/x】开发构建不同参数量级的无人机航拍河道污染漂浮物船只目标检测识别系统,集成GradCAM对模型检测识别能力进行分析》
《基于YOLO开发构建红外场景下无人机航拍车辆实例分割检测识别分析系统》
《基于轻量级YOLOv5n/s/m三款模型开发构建基于无人机视角的高空红外目标检测识别分析系统,对比测试分析性能》
《助力森林火情烟雾检测预警,基于YOLOv5全系列模型[n/s/m/l/x]开发构建无人机航拍场景下的森林火情检测识别系统》
《助力森林火情预警检测,基于YOLOv7-tiny、YOLOv7和YOLOv7x开发构建无人机航拍场景下的森林火情检测是别预警系统》
《无人机助力电力设备螺母缺销智能检测识别,python基于YOLOv5开发构建电力设备螺母缺销小目标检测识别系统》
《无人机助力电力设备螺母缺销智能检测识别,python基于YOLOv7开发构建电力设备螺母缺销小目标检测识别系统》
《实践航拍小目标检测,基于轻量级YOLOv8n开发构建无人机航拍场景下的小目标检测识别分析系统》
《实践航拍小目标检测,基于YOLOv5全系列【n/s/m/l/x】参数模型开发构建无人机航拍场景下的小目标检测识别分析系统》
《实践航拍小目标检测,基于YOLOv7【tiny/l/x】不同系列参数模型开发构建无人机航拍场景下的小目标检测识别分析系统》
《实践航拍小目标检测,基于YOLOv8全系列【n/s/m/l/x】参数模型开发构建无人机航拍场景下的小目标检测识别分析系统》
《实践无人机航拍小目标检测,基于YOLO家族最新端到端实时算法YOLOv10全系列【n/s/m/b/l/x】参数模型开发构建无人机航拍场景下的小目标检测识别分析系统》
本文是前文YOLOv9系列开发实践的延续,由于原始数据集体量过于庞大,且YOLOv9本身的更新开发还在进行中,目前官方又释放出来了更多参数系列的模型,这里我们就考虑基于整体的参数模型来构建对比分析实验。
首先看下实例效果:
这里我们实验开发采用的是经典的VisDrone数据集,VisDrone数据集是一个专注于无人机视角下的目标检测和跟踪的大型数据集,由天津大学机器学习和数据挖掘实验室的AISKYEYE团队收集并维护。该数据集为研究人员提供了一个平台,用于评估和优化他们的算法性能,特别是在无人机视觉检测领域。以下是对VisDrone数据集的详细介绍:
VisDrone数据集包含了大量的无人机拍摄图像和视频,这些数据涵盖了各种复杂环境和视角下的目标(如行人、车辆等)。数据集的特点是多样化和挑战性,为研究人员提供了丰富的实验素材。
VisDrone数据集包含了多个版本,以VisDrone2019和VisDrone2022为例,其内容概述如下:
VisDrone数据集在多个领域具有广泛的应用前景,包括但不限于:
VisDrone项目不仅提供数据集,还组织了一年一度的VisDrone评测比赛。参与者可以比较不同方法在相同数据集上的表现,从而推动算法的进步。这种竞争性的环境鼓励创新,并促进了技术的实际应用。
VisDrone 数据集的标注文件通常采用以下格式:
图像数据集:每个图像文件夹中包含一个 annotations.txt
文件,文件中每行对应一个目标,格式如下:
<bbox_left>,<bbox_top>,<bbox_width>,<bbox_height>,<score>,<object_category>,<truncation>,<occlusion>
其中:
bbox_left
:目标边界框左上角的 x 坐标
bbox_top
:目标边界框左上角的 y 坐标
bbox_width
:目标边界框的宽度
bbox_height
:目标边界框的高度
score
:目标的置信度分数
object_category
:目标的类别标签
truncation
:目标的截断程度(0-1)
occlusion
:目标的遮挡程度(0-2)
视频数据集:每个视频序列文件夹中包含多个 *.txt
文件,每个文件对应一个视频帧的标注信息,格式与图像数据集的标注文件相同。
VisDrone 数据集广泛应用于以下计算机视觉任务:
目标检测:识别图像或视频中的目标并定位其位置。
目标跟踪:在视频序列中跟踪目标的运动轨迹。
场景理解:分析图像或视频中的场景信息,如交通流量、人群密度等。
实例数据如下:
感兴趣的话可以自行移步官方数据网站进行了解、下载、
关于YOLOv9的论文相关的介绍可以看这里:
《太卷了,目标检测新成员——YOLOv9: Learning What You Want to LearnUsing Programmable Gradient Information他来了》
如果想要基于YOLOv9从零开始开发构建自己的个性化目标检测系统,可以参照这里:
《基于YOLO家族最新模型YOLOv9开发构建自己的个性化目标检测系统从零构建模型完整训练、推理计算超详细教程【以自建数据酸枣病虫害检测为例】》
YOLOv9的作者人为很多模型设计过程中现有的方法忽略了一个事实,即当输入数据经过逐层特征提取和空间变换时,会丢失大量信息。目前,可以缓解这一现象的主要方法为:(1)可逆架构的使用:使用重复输入数据并以显式方式保持输入数据的信息;(2)掩码建模的使用:利用重构损失并采用隐式方式来最大化提取的特征并保留输入信息;以及(3)深监督概念的引入:使用未丢失太多重要信息的浅层特征预先建立从特征到目标的映射,以确保重要信息能够传递到更深的层次。然而,上述方法在训练过程和推理过程中存在不同的缺点。例如,可逆架构需要额外的层来组合重复馈送的输入数据,这将显著增加推理成本。此外,由于输入数据层到输出层不能有太深的路径,这种限制将使得在训练过程中对高阶语义信息的建模变得困难。至于掩码建模,其重构损失有时会与目标损失冲突。此外,大多数掩码机制还会与数据产生不正确的关联。对于深监督机制,它将产生误差积累,如果浅监督在训练过程中丢失信息,那么后续层将无法检索到所需的信息。上述现象在困难任务和小模型上将更为显著。所以作者深入研究数据通过深度网络传输时数据丢失的重要问题,即信息瓶颈和可逆函数进而提出了可编程梯度信息(PGI)以应对深度网络实现多个目标所需的各种变化。PGI可以为目标任务提供完整的输入信息来计算目标函数,从而获得可靠的梯度信息来更新网络权重。此外,还设计了一种新的基于梯度路径规划的轻量级网络架构——广义高效层聚合网络(GELAN)。GELAN的架构证实了PGI在轻量级模型上取得了卓越的成果。
YOLOv9贡献总结如下:
1.我们从可逆函数的角度对现有的深度神经网络架构进行了理论分析,并通过这个过程成功地解释了许多过去难以解释的现象。在此基础上,我们还设计了PGI和辅助可逆分支,并取得了良好的效果。
2.我们设计的PGI解决了深度监控只能用于极深度神经网络架构的问题,从而使新的轻量级架构能够真正应用于日常生活。
3.我们设计的GELAN仅使用传统卷积,比基于最先进技术的深度卷积设计实现了更高的参数使用率,同时显示出轻、快、准确的巨大优势。
4.将所提出的PGI和GELAN相结合,YOLOv9在MS COCO数据集上的目标检测性能在各个方面都大大超过了现有的实时目标检测器。
这里我们一共应用开发了十二款模型,分别是GELAN系列的:gelan、gelan-t、gelan-s、gelan-m、gelan-c、gelan-e和YOLOv9系列的:yolov9、yolov9-t、yolov9-s、yolov9-m、yolov9-c、yolov9-e,这里就不再一一给出来所有模型的模型文件了,仅以gelan和yolov9为例。
【gelan】
- # YOLOv9
-
- # parameters
- nc: 10 # number of classes
- depth_multiple: 1.0 # model depth multiple
- width_multiple: 1.0 # layer channel multiple
- #activation: nn.LeakyReLU(0.1)
- #activation: nn.ReLU()
-
- # anchors
- anchors: 3
-
- # gelan backbone
- backbone:
- [
- # conv down
- [-1, 1, Conv, [64, 3, 2]], # 0-P1/2
- # conv down
- [-1, 1, Conv, [128, 3, 2]], # 1-P2/4
- # elan-1 block
- [-1, 1, RepNCSPELAN4, [256, 128, 64, 1]], # 2
- # avg-conv down
- [-1, 1, Conv, [256, 3, 2]], # 3-P3/8
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 256, 128, 1]], # 4
- # avg-conv down
- [-1, 1, Conv, [512, 3, 2]], # 5-P4/16
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 6
- # avg-conv down
- [-1, 1, Conv, [512, 3, 2]], # 7-P5/32
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 8
- ]
-
- # gelan head
- head:
- [
- # elan-spp block
- [-1, 1, SPPELAN, [512, 256]], # 9
- # up-concat merge
- [-1, 1, nn.Upsample, [None, 2, 'nearest']],
- [[-1, 6], 1, Concat, [1]], # cat backbone P4
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 12
- # up-concat merge
- [-1, 1, nn.Upsample, [None, 2, 'nearest']],
- [[-1, 4], 1, Concat, [1]], # cat backbone P3
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [256, 256, 128, 1]], # 15 (P3/8-small)
- # avg-conv-down merge
- [-1, 1, Conv, [256, 3, 2]],
- [[-1, 12], 1, Concat, [1]], # cat head P4
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 18 (P4/16-medium)
- # avg-conv-down merge
- [-1, 1, Conv, [512, 3, 2]],
- [[-1, 9], 1, Concat, [1]], # cat head P5
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 21 (P5/32-large)
- # detect
- [[15, 18, 21], 1, DDetect, [nc]], # Detect(P3, P4, P5)
- ]
【yolov9】
- # YOLOv9
-
- # parameters
- nc: 10 # number of classes
- depth_multiple: 1.0 # model depth multiple
- width_multiple: 1.0 # layer channel multiple
- #activation: nn.LeakyReLU(0.1)
- #activation: nn.ReLU()
-
- # anchors
- anchors: 3
-
- # YOLOv9 backbone
- backbone:
- [
- [-1, 1, Silence, []],
- # conv down
- [-1, 1, Conv, [64, 3, 2]], # 1-P1/2
- # conv down
- [-1, 1, Conv, [128, 3, 2]], # 2-P2/4
- # elan-1 block
- [-1, 1, RepNCSPELAN4, [256, 128, 64, 1]], # 3
- # conv down
- [-1, 1, Conv, [256, 3, 2]], # 4-P3/8
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 256, 128, 1]], # 5
- # conv down
- [-1, 1, Conv, [512, 3, 2]], # 6-P4/16
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 7
- # conv down
- [-1, 1, Conv, [512, 3, 2]], # 8-P5/32
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 9
- ]
-
- # YOLOv9 head
- head:
- [
- # elan-spp block
- [-1, 1, SPPELAN, [512, 256]], # 10
- # up-concat merge
- [-1, 1, nn.Upsample, [None, 2, 'nearest']],
- [[-1, 7], 1, Concat, [1]], # cat backbone P4
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 13
- # up-concat merge
- [-1, 1, nn.Upsample, [None, 2, 'nearest']],
- [[-1, 5], 1, Concat, [1]], # cat backbone P3
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [256, 256, 128, 1]], # 16 (P3/8-small)
- # conv-down merge
- [-1, 1, Conv, [256, 3, 2]],
- [[-1, 13], 1, Concat, [1]], # cat head P4
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 19 (P4/16-medium)
- # conv-down merge
- [-1, 1, Conv, [512, 3, 2]],
- [[-1, 10], 1, Concat, [1]], # cat head P5
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 22 (P5/32-large)
- # routing
- [5, 1, CBLinear, [[256]]], # 23
- [7, 1, CBLinear, [[256, 512]]], # 24
- [9, 1, CBLinear, [[256, 512, 512]]], # 25
- # conv down
- [0, 1, Conv, [64, 3, 2]], # 26-P1/2
- # conv down
- [-1, 1, Conv, [128, 3, 2]], # 27-P2/4
- # elan-1 block
- [-1, 1, RepNCSPELAN4, [256, 128, 64, 1]], # 28
- # conv down fuse
- [-1, 1, Conv, [256, 3, 2]], # 29-P3/8
- [[23, 24, 25, -1], 1, CBFuse, [[0, 0, 0]]], # 30
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 256, 128, 1]], # 31
- # conv down fuse
- [-1, 1, Conv, [512, 3, 2]], # 32-P4/16
- [[24, 25, -1], 1, CBFuse, [[1, 1]]], # 33
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 34
- # conv down fuse
- [-1, 1, Conv, [512, 3, 2]], # 35-P5/32
- [[25, -1], 1, CBFuse, [[2]]], # 36
- # elan-2 block
- [-1, 1, RepNCSPELAN4, [512, 512, 256, 1]], # 37
- # detect
- [[31, 34, 37, 16, 19, 22], 1, DualDDetect, [nc]], # DualDDetect(A3, A4, A5, P3, P4, P5)
- ]
这里我们主要开发实践了两组实验:
1、YOLOv9全系列参数模型的对比实验
2、YOLOv9全系列+Gelan全系列模型的对比实验
之所以这样对比,是因为本身YOLOv9就等价于Gelan+PGI,理论上来说专门提出来的PGI技术肯定是对原有模型有提升作用的,简单来理解就是YOLOv9全系列理论上应该是你开发项目的首选。
实验阶段我们保持了相同的参数设置,等待长时期的训练过程结束之后我们来对以上YOLOv9全系列六款不同参数量级的模型进行纵向的对比分析,如下:
【Precision曲线】
精确率曲线(Precision Curve)是一种用于评估二分类模型在不同阈值下的精确率性能的可视化工具。它通过绘制不同阈值下的精确率和召回率之间的关系图来帮助我们了解模型在不同阈值下的表现。
精确率(Precision)是指被正确预测为正例的样本数占所有预测为正例的样本数的比例。召回率(Recall)是指被正确预测为正例的样本数占所有实际为正例的样本数的比例。
绘制精确率曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的精确率和召回率。
将每个阈值下的精确率和召回率绘制在同一个图表上,形成精确率曲线。
根据精确率曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
通过观察精确率曲线,我们可以根据需求确定最佳的阈值,以平衡精确率和召回率。较高的精确率意味着较少的误报,而较高的召回率则表示较少的漏报。根据具体的业务需求和成本权衡,可以在曲线上选择合适的操作点或阈值。
精确率曲线通常与召回率曲线(Recall Curve)一起使用,以提供更全面的分类器性能分析,并帮助评估和比较不同模型的性能。
【Recall曲线】
召回率曲线(Recall Curve)是一种用于评估二分类模型在不同阈值下的召回率性能的可视化工具。它通过绘制不同阈值下的召回率和对应的精确率之间的关系图来帮助我们了解模型在不同阈值下的表现。
召回率(Recall)是指被正确预测为正例的样本数占所有实际为正例的样本数的比例。召回率也被称为灵敏度(Sensitivity)或真正例率(True Positive Rate)。
绘制召回率曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的召回率和对应的精确率。
将每个阈值下的召回率和精确率绘制在同一个图表上,形成召回率曲线。
根据召回率曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
通过观察召回率曲线,我们可以根据需求确定最佳的阈值,以平衡召回率和精确率。较高的召回率表示较少的漏报,而较高的精确率意味着较少的误报。根据具体的业务需求和成本权衡,可以在曲线上选择合适的操作点或阈值。
召回率曲线通常与精确率曲线(Precision Curve)一起使用,以提供更全面的分类器性能分析,并帮助评估和比较不同模型的性能。
【loss】
Loss曲线反映了模型在训练过程中,损失函数值随迭代次数(或训练轮数)的变化情况。损失函数是用来估量模型的预测值f(x)与真实值y的不一致程度的函数,其值越小,表明模型预测能力越强,性能越好。
【mAP0.5】
mAP0.5,也被称为mAP@0.5或AP50,指的是当Intersection over Union(IoU)阈值为0.5时的平均精度(mean Average Precision)。IoU是一个用于衡量预测边界框与真实边界框之间重叠程度的指标,其值范围在0到1之间。当IoU值为0.5时,意味着预测框与真实框至少有50%的重叠部分。
在计算mAP0.5时,首先会为每个类别计算所有图片的AP(Average Precision),然后将所有类别的AP值求平均,得到mAP0.5。AP是Precision-Recall Curve曲线下面的面积,这个面积越大,说明AP的值越大,类别的检测精度就越高。
mAP0.5主要关注模型在IoU阈值为0.5时的性能,当mAP0.5的值很高时,说明算法能够准确检测到物体的位置,并且将其与真实标注框的IoU值超过了阈值0.5。
【mAP0.5:0.95】
mAP0.5:0.95,也被称为mAP@[0.5:0.95]或AP@[0.5:0.95],表示在IoU阈值从0.5到0.95变化时,取各个阈值对应的mAP的平均值。具体来说,它会在IoU阈值从0.5开始,以0.05为步长,逐步增加到0.95,并在每个阈值下计算mAP,然后将这些mAP值求平均。
这个指标考虑了多个IoU阈值下的平均精度,从而更全面、更准确地评估模型性能。当mAP0.5:0.95的值很高时,说明算法在不同阈值下的检测结果均非常准确,覆盖面广,可以适应不同的场景和应用需求。
对于一些需求比较高的场合,比如安全监控等领域,需要保证高的准确率和召回率,这时mAP0.5:0.95可能更适合作为模型的评价标准。
综上所述,mAP0.5和mAP0.5:0.95都是用于评估目标检测模型性能的重要指标,但它们的关注点有所不同。mAP0.5主要关注模型在IoU阈值为0.5时的性能,而mAP0.5:0.95则考虑了多个IoU阈值下的平均精度,从而更全面、更准确地评估模型性能。
【F1值曲线】
F1值曲线是一种用于评估二分类模型在不同阈值下的性能的可视化工具。它通过绘制不同阈值下的精确率(Precision)、召回率(Recall)和F1分数的关系图来帮助我们理解模型的整体性能。
F1分数是精确率和召回率的调和平均值,它综合考虑了两者的性能指标。F1值曲线可以帮助我们确定在不同精确率和召回率之间找到一个平衡点,以选择最佳的阈值。
绘制F1值曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的精确率、召回率和F1分数。
将每个阈值下的精确率、召回率和F1分数绘制在同一个图表上,形成F1值曲线。
根据F1值曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
F1值曲线通常与接收者操作特征曲线(ROC曲线)一起使用,以帮助评估和比较不同模型的性能。它们提供了更全面的分类器性能分析,可以根据具体应用场景来选择合适的模型和阈值设置。
完成第一组实验也就是YOLOv9全系列参数模型的对比分析可视化之后,接下来我们按照同样的参数配置完成GELAN全系列参数模型的开发训练,之后采用上述相同的方式来进行十二款模型的对比可视化,这里就不再赘述了,直接来看效果。
【F1值曲线】
【loss曲线】
【mAP0.5曲线】
【mAP0.5.:095曲线】
【Precision曲线】
【Recall曲线】
综合全系列十二款不同参数量级模型的开发实验对比结果来看:十二款不同参数量级的模型效果上呈现较为明显的间距,整体来说:t系列模型效果最差,s系列模型略优,yolov9和gelan系列居中,m系列模型和c系列模型效果较为相近,e系列模型效果最好,综合参数量来考虑,这里我们考虑使用yolov9-m来作为线上推理模型。
接下来看下yolov9-m模型的详细情况。
【离线推理实例】
【Batch实例】
【混淆矩阵】
【F1值曲线】
【Precision曲线】
【PR曲线】
【Recall曲线】
【训练可视化】
未来,随着无人机技术和AI技术的不断发展,无人机航拍场景下的小目标检测技术将得到更广泛的应用和深入的研究。
无人机巡航巡检:无人机航拍可以广泛应用于电力巡检、农业监测、森林防火等领域。在这些场景中,小目标检测技术可以帮助快速准确地识别出目标物体,如电线杆、农作物、火源等,从而提高巡检效率和安全性。
城市规划与管理:无人机航拍可以为城市规划和管理提供重要的数据支持。通过小目标检测技术,可以从航拍图像中提取出道路、建筑物、车辆等目标信息,为城市规划和管理提供有力的数据支撑。
公共安全与应急响应:在公共安全和应急响应领域,无人机航拍可以快速获取现场情况,为救援和指挥提供重要信息。小目标检测技术可以帮助快速识别出关键目标,如被困人员、火源等,为救援和指挥提供及时准确的信息支持。
无人机巡航+AI智能模型会成为未来众多领域内巡检巡航的新模式,但与此同时也面临着诸多的挑战:
1、目标尺度小:无人机航拍图像中的目标通常只占整个图像的一小部分,这使得目标在图像中的特征信息较少,增加了检测的难度。
2、清晰度低:由于拍摄距离远、天气条件不佳等原因,无人机航拍图像中的目标可能较为模糊,进一步加大了检测的难度。
3、背景复杂:无人机航拍图像的背景往往复杂多变,包括地面、建筑物、植被等多种元素,这些背景元素可能与目标产生混淆,干扰目标检测。
从技术层面考虑,可行的探索实践路线有以下几种考虑:
1、多尺度特征融合:针对目标尺度小的问题,可以采用多尺度特征融合的方法。通过构建不同尺度的特征图,并将这些特征图进行融合,可以提高网络对小目标的特征提取能力。
2、特征增强技术:针对目标清晰度低的问题,可以采用特征增强技术。通过对图像进行预处理或后处理,如超分辨率重建、对比度增强等,可以提高目标在图像中的清晰度,从而改善检测效果。
3、上下文信息利用:针对背景复杂的问题,可以利用上下文信息来辅助目标检测。通过引入目标的上下文信息,可以增加网络对目标的识别能力,减少背景元素的干扰。
相信在不久的将来会有真正落地应用的实例出现,感兴趣的话也都可以动手实践下!
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。