devbox
weixin_40725706
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

YOLOv8改进之C2f模块融合CVPR2023 SCConv

作者：weixin_40725706 | 2024-03-16 18:08:53

赞

踩

scconv

目录

 

1. SCConv

 SCConv模块的设计

SCConv模块的性能

 2. YOLOv8 C2f融合SCConv模块

 

1. SCConv

卷积在各种计算机视觉任务中表现出色，但是由于卷积层提取冗余特征，其计算资源需求巨大。虽然过去用于改善网络效率的各种模型压缩策略和网络设计，包括网络剪枝、权重量化、低秩分解和知识蒸馏等。然而，这些方法都被视为后处理步骤，因此它们的性能通常受到给定初始模型的上限约束。而网络设计另辟蹊径，试图减少密集模型参数中的固有冗余，进一步开发轻量级网络模型。

 SCConv模块的设计

为了解决上述问题，论文（SCConv: Spatial and Channel Reconstruction Convolution for Feature Redundancy (thecvf.com)）提出了一个新的卷积模块，名为SCConv，这个模块利用了两个组件：空间重建单元（SRU）和通道重建单元（CRU）。

  • SRU 通过一种分离-重建的方法抑制空间冗余
  • CRU 则采用一种分割-转换-融合的策略减少通道冗余

此外，SCConv 是一个即插即用的架构单元，可以直接替换各种卷积神经网络中的标准卷积。

SCConv模块的性能

SCConv 模块旨在有效地限制特征冗余，不仅减少了模型参数和FLOPs的数量，而且增强了特征表示的能力。实际上，SCConv 模块提供了一种新的视角来看待CNNs的特征提取过程，提出了一种更有效地利用空间和通道冗余的方法，从而在减少冗余特征的同时提高模型性能。实验结果显示，嵌入了 SCConv 模块的模型能够通过显著降低复杂性和计算成本，减少冗余特征，从而达到更好的性能。

34f8c45daaa544d9a9e2065bb0bdbe21.png

 SRU

1fed51edcee74d3390a7e3e5918d87e9.png

CRU

e01e4ecd86b445948212b3cb64f4e367.png

 2. YOLOv8 C2f融合SCConv模块

加入融合ScConv的C2f模块，在ultralytics包中的nn包的modules中的block.py文件中添加改进模块。代码如下：

  1. class SRU(nn.Module):
  2.     def __init__(self,
  3.                  oup_channels: int,
  4.                  group_num: int = 16,
  5.                  gate_treshold: float = 0.5
  6.                  ):
  7.         super().__init__()
  8.  
  9.         self.gn = GroupBatchnorm2d(oup_channels, group_num=group_num)
  10.         self.gate_treshold = gate_treshold
  11.         self.sigomid = nn.Sigmoid()
  12.  
  13.     def forward(self, x):
  14.         gn_x = self.gn(x)
  15.         w_gamma = self.gn.gamma / sum(self.gn.gamma)
  16.         reweigts = self.sigomid(gn_x * w_gamma)
  17.         # Gate
  18.         info_mask = reweigts >= self.gate_treshold
  19.         noninfo_mask = reweigts < self.gate_treshold
  20.         x_1 = info_mask * x
  21.         x_2 = noninfo_mask * x
  22.         x = self.reconstruct(x_1, x_2)
  23.         return x
  24.  
  25.     def reconstruct(self, x_1, x_2):
  26.         x_11, x_12 = torch.split(x_1, x_1.size(1) // 2, dim=1)
  27.         x_21, x_22 = torch.split(x_2, x_2.size(1) // 2, dim=1)
  28.         return torch.cat([x_11 + x_22, x_12 + x_21], dim=1)
  29.  
  30.  
  31. class CRU(nn.Module):
  32.     '''
  33.     alpha: 0<alpha<1
  34.     '''
  35.  
  36.     def __init__(self,
  37.                  op_channel: int,
  38.                  alpha: float = 1 / 2,
  39.                  squeeze_radio: int = 2,
  40.                  group_size: int = 2,
  41.                  group_kernel_size: int = 3,
  42.                  ):
  43.         super().__init__()
  44.         self.up_channel = up_channel = int(alpha * op_channel)
  45.         self.low_channel = low_channel = op_channel - up_channel
  46.         self.squeeze1 = nn.Conv2d(up_channel, up_channel // squeeze_radio, kernel_size=1, bias=False)
  47.         self.squeeze2 = nn.Conv2d(low_channel, low_channel // squeeze_radio, kernel_size=1, bias=False)
  48.         # up
  49.         self.GWC = nn.Conv2d(up_channel // squeeze_radio, op_channel, kernel_size=group_kernel_size, stride=1,
  50.                              padding=group_kernel_size // 2, groups=group_size)
  51.         self.PWC1 = nn.Conv2d(up_channel // squeeze_radio, op_channel, kernel_size=1, bias=False)
  52.         # low
  53.         self.PWC2 = nn.Conv2d(low_channel // squeeze_radio, op_channel - low_channel // squeeze_radio, kernel_size=1,
  54.                               bias=False)
  55.         self.advavg = nn.AdaptiveAvgPool2d(1)
  56.  
  57.     def forward(self, x):
  58.         # Split
  59.         up, low = torch.split(x, [self.up_channel, self.low_channel], dim=1)
  60.         up, low = self.squeeze1(up), self.squeeze2(low)
  61.         # Transform
  62.         Y1 = self.GWC(up) + self.PWC1(up)
  63.         Y2 = torch.cat([self.PWC2(low), low], dim=1)
  64.         # Fuse
  65.         out = torch.cat([Y1, Y2], dim=1)
  66.         out = F.softmax(self.advavg(out), dim=1) * out
  67.         out1, out2 = torch.split(out, out.size(1) // 2, dim=1)
  68.         return out1 + out2
  69.  
  70.  
  71. class ScConv(nn.Module):
  72.     # https://github.com/cheng-haha/ScConv/blob/main/ScConv.py
  73.     def __init__(self,
  74.                  op_channel: int,
  75.                  group_num: int = 16,
  76.                  gate_treshold: float = 0.5,
  77.                  alpha: float = 1 / 2,
  78.                  squeeze_radio: int = 2,
  79.                  group_size: int = 2,
  80.                  group_kernel_size: int = 3,
  81.                  ):
  82.         super().__init__()
  83.         self.SRU = SRU(op_channel,
  84.                        group_num=group_num,
  85.                        gate_treshold=gate_treshold)
  86.         self.CRU = CRU(op_channel,
  87.                        alpha=alpha,
  88.                        squeeze_radio=squeeze_radio,
  89.                        group_size=group_size,
  90.                        group_kernel_size=group_kernel_size)
  91.  
  92.     def forward(self, x):
  93.         x = self.SRU(x)
  94.         x = self.CRU(x)
  95.         return x
  96.  
  97.  
  98. class Bottleneck_ScConv(Bottleneck):
  99.     def __init__(self, c1, c2, shortcut=True, g=1, k=(3, 3), e=0.5):
  100.         super().__init__(c1, c2, shortcut, g, k, e)
  101.         c_ = int(c2 * e)  # hidden channels
  102.         self.cv1 = Conv(c1, c_, k[0], 1)
  103.         self.cv2 = ScConv(c2)
  104.  
  105.  
  106. class C2f_ScConv(C2f):
  107.     def __init__(self, c1, c2, n=1, shortcut=False, g=1, e=0.5):
  108.         super().__init__(c1, c2, n, shortcut, g, e)
  109.         self.m = nn.ModuleList(Bottleneck_ScConv(self.c, self.c, shortcut, g, k=(3, 3), e=1.0) for _ in range(n))

对融合ScConv的C2f模块的进行注册和引用，注册方式参考YOLOv8改进算法之添加CA注意力机制-CSDN博客

 在tasks.py中的parse_model中添加C2f_ScConv：

299f7928eeef4bc0bc3d6110fe307c59.jpeg

 新建相应的yaml文件，代码如下：

  1. # Ultralytics YOLO          本文内容由网友自发贡献，转载请注明出处：【wpsshop博客】
    推荐阅读
    相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。