笔触狂放9

这个屌丝很懒，什么也没留下！

热门标签

注意力机制：CA - Coordinate Attention for Efficient Mobile Network Design（文末附代码）_ca注意力机制论文

作者：笔触狂放9 | 2024-04-01 08:30:26

踩

ca注意力机制论文

摘要

近期关于移动网络设计的研究已经证明了通道注意力在提升模型性能方面的显著效果，但他们通常忽略了位置信息，而位置信息嵌入通道注意力中，我们称之为**“坐标注意力”。与通道注意力通过二维全局池化将一个特征张量转换为单个特征向量的方法不同，坐标注意力将通道注意力分解为两个一维特征编码过程，分别沿着两个空间方向聚合特征。通过这种方式，可以捕捉到一个空间方向上的长程依赖关系，并同时保留另一个空间方向上的精确位置信息。然后，得到的特征图分别编码为一对方向感知和位置敏感的注意力图，可以互补地应用于输入特征图**，以增强感兴趣对象的表示。我们的坐标注意力简单，并且可以灵活地插入到经典的移动网络中，如MobileNetv2、MobileNeXt和EfficientNet，几乎没有计算开销。大量的实验证明，我们的坐标注意力不仅对ImageNet分类有益，而且更加有趣的是，在目标检测和语义分割等下游任务中表现更好。
论文地址：https://arxiv.org/pdf/2103.02907.pdf
在这里插入图片描述

引言

注意力机制被用于指导模型**“what”和“where”进行关注，已经得到广泛的研究，并且在现代深度神经网络的性能中被广泛应用。然而，它们在移动网络（具有有限的模型大小）中的应用远远落后于大型网络。这主要是因为大多数注意力机制带来的计算开销对于移动网络来说是无法承受的。
考虑到移动网络的计算能力受限，迄今为止，最受欢迎的移动网络注意力机制仍然是SE注意力，该机制通过2D全局池化来计算通道注意力，并在相对较低的计算成本下提供显著的性能提升，然而，SE注意力仅考虑编码的通道间信息，忽视了位置的重要性，而位置信息对于捕捉视觉任务中的对象结构至关重要。后续的工作：如BAM和CBAM，尝试通过减少张量的通道维度，然后使用卷积计算空间注意力来利用位置信息，然而，卷积只能捕捉局部关系，对于视觉任务中的长程依赖建模效果不佳[48,14]。

在本文中，除了前面的研究成果，我们提出了一种新颖且高效的注意力机制，将位置信息嵌入通道注意力中**，使移动网络能够关注较大区域而避免产生显著的计算开销。为了解决2D全局池化引起的位置信息丢失问题，我们将通道注意力分解为两个平行的1D特征编码过程，以将空间坐标信息有效地整合到生成的注意力图中。

具体而言：

利用两个1D全局池化操作分别沿垂直和水平方向聚合输入特征，形成两个单独的方向感知特征图。这两个嵌入的方向特定信息的特征图分别编码为两个注意力图，每个图在一个空间方向上捕捉输入特征图的长程依赖关系，从而保留位置信息。然后，将这两个注意力图通过乘法应用于输入特征图，以强调感兴趣的表示。它区分了空间方向，并生成了具有坐标感知能力的注意力图。

优势：

不仅能捕捉夸通道信息，而且捕捉了方向感知和位置敏感信息，有助于模型更准确的定位和识别感兴趣对象
灵活且轻量化，可以轻松插入到移动网络的经典构建模块中，例如：MobileNetv2中提出的反转残差块和MobileNext中提出的沙漏块，通过强调信息丰富的表示来增强特征
作为一个预训练模型，我们的坐标注意力可以为移动网络的下游任务带来显著的性能提升，特别适用于具有密集预测的任务。

Coordinate Attention

一个坐标注意力可以被视为一个计算单元，旨在增强移动网络学习特征的表达能力。
在这里插入图片描述

回顾Squeeze-and-Excitation Attention

正如[18]中所示，标准卷积本身很难建模通道之间的关系，显式的构建通道间的依赖关系可以增加模型对有信息贡献的通道的敏感性，进而提高最终分类决策的准确性，此外，使用全局平均池化可以帮助模型捕捉全局信息，而这是卷积缺乏的。
从结构上看，SE块可以分解为两个步骤：挤压和激励，分别用于全局信息嵌入和自适应地重新校准通道之间的关系。

Squeeze

给定输入X，对于第c个通道的Squeeze可以表述如下：
在这里插入图片描述
其中，Zc是与第c个通道相关联的输出，输入X直接来自具有固定卷积核大小的卷积层，因此可以看作是一组局部描述符。Squeeze使得收集全局信息称为可能。

Excitation

旨在充分捕捉通道之间的依赖关系，可以表示为：
在这里插入图片描述

其中**·表示逐通道乘法，

SE块在最近的移动网络中被广泛使用，并被证明是实现最新进性能的关键组件。然而，它仅通过建模通道关系来重新评估每个通道的重要性**，但是 忽视了位置信息

坐标注意力模块

坐标注意力模块通过两个步骤编码通道关系和远程依赖关系，并且提供准确的位置信息：坐标信息嵌入和坐标注意力生成
在这里插入图片描述

坐标信息嵌入

Global Pooling 通常用于通道注意力中，以全局方式编码空间信息，但它将全局空间信息压缩到通道描述符中，因此很难保留位置信息，在捕捉视觉任务中的空间结构方面是至关重要的，为了鼓励注意力模块以精确的位置信息在空间上捕捉长距离交互，将全局池化分解，如下公式
在这里插入图片描述
上述两个转换分别沿着两个空间方向聚合特征，得到一对方向感知的特征图。这与通道注意力方法中产生单个特征向量的压缩操作非常不同。这两个转换还使我们的注意力模块能够沿着一个空间方向捕捉长距离依赖关系，并沿另一个空间方向保留精确的位置信息，从而帮助网络更准确地定位感兴趣对象。

坐标注意力的生成

如上所述，方程（4）（5）实现了全局感受野并编码了精确的位置信息。为了充分利用得到的表达性表示，我们提出了第二次转换，称为坐标注意力的生成。我们的设计参考了以下三个标准：

新的转换在移动环境中的应用应尽可能简单和廉价
可以充分利用捕捉到的位置信息，以便能够准确地突出显示感兴趣区域
应能够有效地捕捉到通道间的关系这在现有的研究中已被证明是必要的

讨论：不同于只关注不同通道重要性的通道注意力，坐标注意力块还考虑对空间信息进行编码。
沿着水平和垂直方向的注意力同时应用于输入张量，两个注意力映射中的每个元素反应了感兴趣的对象是否存在于相应的行和列中。这种编码过程使我们的坐标注意力更准确地定位感兴趣对象的确切位置，从而帮助整个模型!更好地进行识别。

实验部分

首先：描述实验设置，然后设置消融实验
然后：与一些基本注意力机制进行了比较

实验设置

训练过程中，使用标准的SGD优化器，衰减和动量都设置为0.9来训练所有模型。权重衰减始终设为4X10-5，采用余弦学习调度，初始学习率为0.05。使用4个NVIDIA GPU来进行训练，批量大小设置为256。在没有额外声明的情况下，我们将MobileNetV2作为基准线，将所有模型训练200个epoch。在数据增强方面，我们采用了与MobileNetv2相同的方法，我们在ImageNet数据集上进行分类。

消融实验

坐标注意力的重要性

为了展示提出的坐标注意力的性能，我们进行了一些列消融实验，相应结果均在下表：
在这里插入图片描述
我们分别移除水平注意力或垂直注意力，以观察编码坐标信息的重要性。沿任意一个方向进行注意力的模型与具有SE注意力的模型具有相媲美的性能。然而，当水平注意力和垂直注意力同时加入时，获取了突出显示的最佳结果。

不同的权重乘数

以两个经典的移动网络（包括具有方向残差块的MobileNetV2和具有沙漏瓶颈块的MobileNext）作为基准，来比较所提出的方法在不同权重乘数下与SE注意力和CBAM的性能。在这个实验中，我们采用了三种典型的权重乘数，包括{1.0,0.75,0.5}。
在以MobileNetV2网络为基准时，带有CBAM的模型与带有SE注意力的模型具有类似的结果，然而，在每种设置下，具有我们提出的坐标注意力的模型都取得了最好的结果。
在这里插入图片描述
当使用MobileNext网络时，也可以观察到类似的现象。这表明，无论考虑沙漏瓶颈块还是反向残差块，无论选择哪种权重乘数，坐标注意力都能够以先进的方式同时编码位置和通道间的信息，因此表现最佳。

在这里插入图片描述

减少比较r的影响

为了探究不同注意力块减少比例对模型性能的影响，我们尝试减小比例的大小，并观察性能的变化。当将r减少到原始大小的一半时，模型的大小增加了，但是性能得到了提升。这表明：通过减少比例来增加更多的参数对于提高模型性能很重要，更重要的是，我们的坐标注意力在这个实验中仍优于SE注意力和CBAM，这反映了所提出的坐标注意力对于减少比例的鲁棒性。

与其他方法比较

手机网络的关注点

将坐标注意力模块与其他轻量级的注意力方法进行比较，包括广泛采用的SE和CBAM，如表二所示，可以看出，添加SE注意力已经提高了分类性能1%，对于CBAM，似乎其空间注意力模块在移动网络中并没有像SE那样发挥作用。然而，当考虑到我们提出的坐标注意力时，我们获得了最好的结果，我们还通过图4可视化了我们具有不同注意力方法的模型生成的特征图。显然，坐标注意力可以更好地帮助定位感兴趣的对象，而不像SE注意力和CBAM那样。
与CBAM相比，所提出的位置信息编码方式的优势有两个：

CBAM中的空间注意力模块将通道维度压缩到1，导致信息丢失。然而，坐标注意力在瓶颈处采用了适当减少比率来减少通道维度，避免了过多的信息丢失。
CBAM利用一个7X7的卷积层来编码局部空间信息，而坐标注意力通过使用两个互补的1D全局池化操作来编码全局信息。这使得我们的坐标注意力能够捕捉到对视觉任务至关重要的空间位置之间的远距离依赖关系

# CA
class h_sigmoid(nn.Module):
    def __init__(self, inplace=True):
        super(h_sigmoid, self).__init__()
        self.relu = nn.ReLU6(inplace=inplace)

    def forward(self, x):
        return self.relu(x + 3) / 6


class h_swish(nn.Module):
    def __init__(self, inplace=True):
        super(h_swish, self).__init__()
        self.sigmoid = h_sigmoid(inplace=inplace)

    def forward(self, x):
        return x * self.sigmoid(x)


class CoordAtt(nn.Module):
    def __init__(self, inp, oup, reduction=32):
        super(CoordAtt, self).__init__()
        self.pool_h = nn.AdaptiveAvgPool2d((None, 1))
        self.pool_w = nn.AdaptiveAvgPool2d((1, None))
        mip = max(8, inp // reduction)
        self.conv1 = nn.Conv2d(inp, mip, kernel_size=1, stride=1, padding=0)
        self.bn1 = nn.BatchNorm2d(mip)
        self.act = h_swish()
        self.conv_h = nn.Conv2d(mip, oup, kernel_size=1, stride=1, padding=0)
        self.conv_w = nn.Conv2d(mip, oup, kernel_size=1, stride=1, padding=0)

    def forward(self, x):
        identity = x
        n, c, h, w = x.size()
        x_h = self.pool_h(x)
        x_w = self.pool_w(x).permute(0, 1, 3, 2)
        y = torch.cat([x_h, x_w], dim=2)
        y = self.conv1(y)
        y = self.bn1(y)
        y = self.act(y)
        x_h, x_w = torch.split(y, [h, w], dim=2)
        x_w = x_w.permute(0, 1, 3, 2)
        a_h = self.conv_h(x_h).sigmoid()
        a_w = self.conv_w(x_w).sigmoid()
        out = identity * a_w * a_h
        return out
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/笔触狂放9/article/detail/347927

注意力机制：CA - Coordinate Attention for Efficient Mobile Network Design（文末附代码）_ca注意力机制论文

注意力机制：CA - Coordinate Attention for Efficient Mobile Network Design

摘要

引言

具体而言：

优势：

相关工作

Mobile Network 架构