Tittle：MALUNet: A Multi-Attention and Light-weight UNet for Skin Lesion Segmentation

摘要

本篇文章提出的目的是为了缓解计算资源的不足，轻量化模型提出的。简单来说本文提出了4个模块。

1）DGA：由扩展卷积和门控注意机制组成，提取全局和局部特征信息。（使网络模型更加关注目标区域，同时这一模块中的深度可分离卷积进一步减少了参数和计算复杂度）

2）IEA：基于外界关注来表征整体数据集，增强样本之间的联系。

3）CAB：由一维卷积和全连接层组成，对多阶段特征进行全局和局部融合，生成通道轴上的特征图

4）SAB：通过共享二维卷积对多阶段特征进行操作，生成空间轴上的特征图。

本文将这四个模块与UNet网络结合

Introduction

目前一些分割架构存在的问题是：

1）一些模型以大参数量的代价来换取模型的高性能，但是由于医疗设备内存有限无法很好的应用于现实的临床场景

2）样本数据之间的差异很小，但在医疗数据集内部中的差异很大，目前解决这一问题的是在自注意力机制及其改进结构上进行的。但是SA在建模样本之间关系方面效果不算好。

3）医学图像分割任务中，由于目标尺寸不同，必须充分利用多阶段，多尺度的信息。但是先前的一些网络结构忽略了这一点。

方法

1）Dilated Gated Attention Block-DGA

同时获取全局和局部信息对提高图像分割性能很重要。全局信息有助于模型了解病灶的整体结构及其与背景的关系，使得其更准确的定位到病灶区域。局部信息有助于获取病灶区域边缘和角落的细节，使得预测更加完整。

DGA模块的结构如下图所示：

模块由两个子单元构成分别为：Split Dilated Conv Unit (SDC) and Gated Attention Unit (GA).

SDC将输入特征图沿通道维度分成四部分，通过使用不同扩张率的深度可分离卷积，得到全局（扩张率为5和7的卷积）和局部（扩张率为1和2的卷积）特征信息。然后在通道维度上进行Concate操作，恢复特征图的大小，然后进行卷积操作，使得全局信息和局部信息得以交互

GA通过使用深度可分离卷积生成与输入特征形状一致的特征图，抑制SDC传输的特征信息中不重要的区域，使得模型更加关注重要的信息。最后应用残差连接来获得输出。用公式表示为

2）Inverted External Attention Block--IEA模块

External atttention（EA）称为外部注意力，它使用两个内存单元（两个共享参数的Conv1D操作）来表征整个数据集的特征信息。而本文提出的外部注意力块如下图所示：

给定一个输入X $\epsilon R^{C*H*W}$ 经过1*1卷积核Reshape运算以后大小变为 $X\epsilon R^{C*HW}$ 。我们使用Memory Unit 1将特征图的通道数扩展成原来的4倍得到 $Att\epsilon R^{4C*HW}$ 。然后再应用Memory Unit2恢复尺寸，再进行Reshape操作恢复到原始特征图尺寸，再进行Reshape操作恢复到原始特征图大小。最后通过1*1卷积得到输出特征图并加入残差信息。