【深度学习】--图像处理中的注意力机制

慈云数据 9个月前 (03-18) 技术支持 56 0

文章目录

- 前言
- 自注意力机制：
- 注意力机制
- 注意力机制的实现方式
- - SENet的实现
  - CBAM的实现
  - ECA的实现
  - 注意力机制的应用
    前言
    
    注意力机制是一个非常有效的trick，注意力机制的实现方式有许多。可以在知网上搜索一下yolov下的目标监测的硕士论文，没有一篇不提到注意力机制的迭代修改的，所以很有必要学一下．
    最后给出了一个例子。
    
    注意力机制的本质:就是寻址过程!
    几种典型的注意力机制:
    hard/soft/local attention
    左侧是hard-attention，很极端只觉得某一步时最重要的。要么时0，要么是1，太专一
    右侧是soft-attention，对整个encode的结果都觉分配了权重。太泛滥，有些地方并不合理
    比如：
    local attention：是把两种attention做了一个折中，
    
    自注意力机制：
    
    attention机制要把postional encoding环节，是要把位置信息注入进来，因为他是并行操作的，不像RNN，只能处理完前一步，才能处理后一步，是自带位置信息的，但这样也注定了RNN很慢。
    
    注意力机制
    
    注意力机制是深度学习常用的一个小技巧，它有多种多样的实现形式，每一种注意力机制的实现的核心都是类似的，核心重点就是让网络关注到它更需要关注的地方。
    当使用卷积神经网络去处理图片的时候，我们会更希望卷积神经网络去注意应该注意的地方，而不是什么都关注，因此，如何让卷积神经网络去自适应的注意重要的物体变得极为重要。
    
    因此一句话总结：注意力机制就是实现网络自适应注意的一个方式。
    注意力机制分为三类：通道注意力机制，空间注意力机制，以及二者的结合。
    
    注意力机制的实现方式
    
    在深度学习中，常见的注意力机制的实现方式有SENet，CBAM，ECA等等。
    
    SENet的实现
    
    SENet是通道注意力机制，它是最后一届ImageNet竞赛的冠军。对于SENet而言，其重点是获得输入进来的特征层，每一个通道的权值。利用SENet，我们可以让网络关注它最需要关注的通道。
    实现步骤：
    1、对输入进来的特征层进行全局平均池化。
    2、然后进行两次全连接，第一次全连接神经元个数较少，第二次全连接神经元个数和输入特征层相同。
    3、在完成两次全连接后，我们再取一次Sigmoid将值固定到0-1之间，此时我们获得了输入特征层每一个通道的权值（0-1之间）。
    4、在获得这个权值后，我们将这个权值乘上原输入特征层即可。
    实现代码：
```
import torch
import torch.nn as nn
import math
class se_block(nn.Module):
    def __init__(self, channel, ratio=16):
        super(se_block, self).__init__()
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.fc = nn.Sequential(
                nn.Linear(channel, channel // ratio, bias=False),
                nn.ReLU(inplace=True),
                nn.Linear(channel // ratio, channel, bias=False),
                nn.Sigmoid()
        )
    def forward(self, x):
        b, c, _, _ = x.size()
        y = self.avg_pool(x).view(b, c)
        y = self.fc(y).view(b, c, 1, 1)
        return x * y
```
    追加一个使用案例
```
if __name__ == '__main__':
    #inut： 构建数据 bz = 8  c= 64 w =227 h=227
    data = np.random.randn(8,64,227,227)
    data = torch.from_numpy(data)
    data = data.to(torch.float32)
    seblock = se_block(64,2)
    res = seblock(data)
    print(res)
    # output 输出：torch.Size([8, 64, 227, 227])
```
    输入还是等于输出，可是却是已经获取和注意力的特征．正是因为这个特点，所以注意力机制可以任意插拔。　输入等于输出，可以侵入搭建block的任意模块！
    
    CBAM的实现
    
    CBAM将通道注意力机制和空间注意力机制进行一个结合，相比于SENet只关注通道的注意力机制可以取得更好的效果。其实现示意图如下所示，CBAM会对输入进来的特征层，分别进行通道注意力机制的处理和空间注意力机制的处理。
    通道注意力机制和空间注意力机制的具体实现方式如下图：
    图像的上半部分为通道注意力机制，通道注意力机制的实现可以分为两个部分，我们会对输入进来的单个特征层，分别进行全局平均池化和全局最大池化。之后对平均池化和最大池化的结果，利用共享的全连接层进行处理，我们会对处理后的两个结果进行相加，然后取一个sigmoid，此时我们获得了输入特征层每一个通道的权值（0-1之间）。在获得这个权值后，我们将这个权值乘上原输入特征层即可。
    
    图像的下半部分为空间注意力机制，我们会对输入进来的特征层，在每一个特征点的通道上取最大值和平均值。之后将这两个结果进行一个堆叠，利用一次通道数为1的卷积调整通道数，然后取一个sigmoid，此时我们获得了输入特征层每一个特征点的权值（0-1之间）。在获得这个权值后，我们将这个权值乘上原输入特征层即可。
```
class ChannelAttention(nn.Module):
    def __init__(self, in_planes, ratio=8):
        super(ChannelAttention, self).__init__()
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.max_pool = nn.AdaptiveMaxPool2d(1)
        # 利用1x1卷积代替全连接
        self.fc1   = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False)
        self.relu1 = nn.ReLU()
        self.fc2   = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False)
        self.sigmoid = nn.Sigmoid()
    def forward(self, x):
        avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x))))
        max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x))))
        out = avg_out + max_out
        return self.sigmoid(out)
class SpatialAttention(nn.Module):
    def __init__(self, kernel_size=7):
        super(SpatialAttention, self).__init__()
        assert kernel_size in (3, 7), 'kernel size must be 3 or 7'
        padding = 3 if kernel_size == 7 else 1
        self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False)
        self.sigmoid = nn.Sigmoid()
    def forward(self, x):
        avg_out = torch.mean(x, dim=1, keepdim=True)
        max_out, _ = torch.max(x, dim=1, keepdim=True)
        x = torch.cat([avg_out, max_out], dim=1)
        x = self.conv1(x)
        return self.sigmoid(x)
class cbam_block(nn.Module):
    def __init__(self, channel, ratio=8, kernel_size=7):
        super(cbam_block, self).__init__()
        self.channelattention = ChannelAttention(channel, ratio=ratio)
        self.spatialattention = SpatialAttention(kernel_size=kernel_size)
    def forward(self, x):
        x = x * self.channelattention(x)
        x = x * self.spatialattention(x)
        return x
```
    ECA的实现
    
    ECANet是也是通道注意力机制的一种实现形式。ECANet可以看作是SENet的改进版。
    ECANet的作者认为SENet对通道注意力机制的预测带来了副作用，捕获所有通道的依赖关系是低效并且是不必要的,并且认为卷积具有良好的跨通道信息获取能力。
    
    ECA模块的思想是非常简单的，它去除了原来SE模块中的全连接层，直接在全局平均池化之后的特征上通过一个1D卷积进行学习。
    
    既然使用到了1D卷积，那么1D卷积的卷积核大小的选择就变得非常重要了，了解过卷积原理的同学很快就可以明白，1D卷积的卷积核大小会影响注意力机制每个权重的计算要考虑的通道数量。用更专业的名词就是跨通道交互的覆盖率。
    
    如下图所示，左图是常规的SE模块，右图是ECA模块。ECA模块用1D卷积替换两次全连接。
```
class eca_block(nn.Module):
    def __init__(self, channel, b=1, gamma=2):
        super(eca_block, self).__init__()
        kernel_size = int(abs((math.log(channel, 2) + b) / gamma))
        kernel_size = kernel_size if kernel_size % 2 else kernel_size + 1
        
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.conv = nn.Conv1d(1, 1, kernel_size=kernel_size, padding=(kernel_size - 1) // 2, bias=False) 
        self.sigmoid = nn.Sigmoid()
    def forward(self, x):
        y = self.avg_pool(x)
        y = self.conv(y.squeeze(-1).transpose(-1, -2)).transpose(-1, -2).unsqueeze(-1)
        y = self.sigmoid(y)
        return x * y.expand_as(x)
```
```
if __name__ == '__main__':
    data = np.random.randn(8,64,227,227)
    data = torch.from_numpy(data)
    data = data.to(torch.float32)
    seblock = eca_block(64,2)
    res = seblock(data)
    print(res.shape)
```
    即插即用真是好使
    
    注意力机制的应用
    
    注意力机制是一个即插即用的模块，理论上可以放在任何一个特征层后面，可以放在主干网络，也可以放在加强特征提取网络。
    
    由于放置在主干会导致网络的预训练权重无法使用，本文以YoloV4-tiny为例，将注意力机制应用加强特征提取网络上。
    
    如下图所示，我们在主干网络提取出来的两个有效特征层上增加了注意力机制，同时对上采样后的结果增加了注意力机制。
    实现代码如下：
```
attention_block = [se_block, cbam_block, eca_block]
#---------------------------------------------------#
#   特征层->最后的输出
#---------------------------------------------------#
class YoloBody(nn.Module):
    def __init__(self, anchors_mask, num_classes, phi=0):
        super(YoloBody, self).__init__()
        self.phi            = phi
        self.backbone       = darknet53_tiny(None)
        self.conv_for_P5    = BasicConv(512,256,1)
        self.yolo_headP5    = yolo_head([512, len(anchors_mask[0]) * (5 + num_classes)],256)
        self.upsample       = Upsample(256,128)
        self.yolo_headP4    = yolo_head([256, len(anchors_mask[1]) * (5 + num_classes)],384)
        if 1  13,13,128 -> 26,26,128
        P5_Upsample = self.upsample(P5)
        # 26,26,256 + 26,26,128 -> 26,26,384
        if 1  26,26,255
        out1 = self.yolo_headP4(P4)
        
        return out0, out1
```

微信扫一扫加客服

微信扫一扫加客服

点击启动AI问答