Attentive Symmetric Autoencoder for Brain MRI Segmentation

摘要

基于图像块重建的自监督学习方法在训练自动编码器方面取得了巨大成功，其预先训练的权重可以转移到微调图像理解的其他下游任务。然而，现有的方法在应用于3D医学图像时，很少研究重建patch的各种重要性和解剖结构的对称性。

1. 提出了一种新的基于视觉变换器（ViT）的注意力对称自动编码器（ASA），用于3D大脑MRI分割任务。
2. 与恢复平滑的图像块相比，强制自动编码器恢复信息丰富的图像区域可以获得更多的判别表示
3. 采用基于梯度的度量来估计每个图像块的重要性。在预训练阶段，所提出的自动编码器更注重根据梯度度量重构信息patch
4. 此外，我们利用大脑结构的先验知识，开发了一种对称位置编码（SPE）方法，以更好地利用长程但空间对称的区域之间的相关性来获得有效的特征。

本文方法

所提出的ASA由一对具有对称位置编码（SPE）和注意重建损失的编码器和解码器组成。在ASA的自监督训练过程中，输入的3D图像被划分为规则的非重叠图像块

Attentive Reconstruction Loss

考虑到学习恢复平坦区域对鼓励模型获取判别表示的帮助较小。我们开发了一种专注的重建损失功能，强调大脑MRI的信息区域。为了估计图像块的信息，我们对3D图像采用了基于梯度的度量。受3D VHOG的启发，我们通过应用[-1，0，1]的滤波器掩码来计算每个体素的梯度向量g=（gx，gy，gz）。在球坐标中，我们使用两个标量θ和φ来表示体素的方向。θ和φ可以计算为

位置编码SPE

大脑结构的左右对称性，并提出了一种对称位置编码（SPE）方法。缩小了两个对称图像位置的编码差异，并可以鼓励模型从这两个相关区域中获得更好的特征

下游任务网络结构

实验结果