文章目录
- Exploring Smoothness and Class-Separation for Semi-supervised Medical Image Segmentation
- 摘要
- 本文方法
- Pixel-level Smoothness
- Inter-class Separation
- 实验结果
Exploring Smoothness and Class-Separation for Semi-supervised Medical Image Segmentation
摘要
半监督分割在医学成像中仍然具有挑战性,因为注释的医学数据量通常很少,并且在粘合边缘附近或低对比度区域中存在许多模糊像素。
本文方法
- 首先约束具有和不具有强扰动的像素的一致性,以应用足够的平滑性约束,并进一步鼓励类级分离,以利用低熵正则化进行模型训练
- 通过同时探索像素级平滑度和类间分离,像素级的平滑度迫使模型在对抗性扰动下产生不变的结果。
- 类间分离鼓励单个类特征接近其相应的高质量原型,以使每个类分布紧凑并分离不同的类
代码地址
示例性MRI扫描(左上)和三个两月数据集的插图(右上),配备了放大的贴片/标签(左下)及其tSNE可视化特征(右下)。gamma用于控制类色散。
本文方法
通过将对抗性噪声作为强扰动应用于像素级来约束像素级平滑度,同时通过基于原型的策略在特征级执行类间分离
图2显示了SS网络的总体流程。分别提出了两种设计来鼓励像素级平滑度和类间分离。
- 首先,通过在原始图像x∈x与其具有逐像素对抗性噪声的扰动样本之间应用一致性约束来实现像素级平滑
- 其次,我们从标记的数据XL计算一组特征原型Z,然后鼓励高维特征F接近原型Z,以便在特征空间中分离不同的类
Pixel-level Smoothness
如今,人们普遍认为LDS对于半监督学习至关重要。这种正则化可以公式化为:
由于在半监督的场景中没有足够的真标签可用,因此通常将y设置为伪标签p(y|x)。从本质上讲,LDS将模型正则化为稳健或与数据的小扰动一致
同时,为了应用强扰动,根据VAT模型,我们使用梯度g作为radv的方向来扰动原始样本x,其处于像素级,可以估计为:
在原始的VAT模型中,采用D作为K-L散度。然而,通过实验,我们发现K-L发散性可能不适合分割任务。因此,我们利用Dice损失作为D来生成对抗性噪声,LDS损失变为:
通过这种方式,可以通过反向传播方案有效地计算g。与随机噪声相比,这种对抗性噪声可以提供更强的平滑性约束,以促进模型训练
Inter-class Separation
当分割模糊目标时,仅仅实施LDS是不够的,因为决策边界附近的模糊像素很容易被分配给不确定的标签,这可能会混淆模型训练。因此,为了补充LDS,我们进一步鼓励在特征空间中进行类间分离。与直接将熵最小化应用于结果相比,这种特征级约束对于半监督图像分割更有效。
因此,我们采用了一种基于原型的策略来断开不同类别的特征流形,这可以降低计算成本。
具体来说,我们首先使用非线性投影来获得投影特征F=FlUFu。然后,根据它们在目标类别中的正确预测来选择标记特征Fl的子集。接下来,我们通过C注意力模块生成的排名分数对这些候选特征进行排序,最终采用得分最高的前K个特征作为高质量原型Z。
然后,我们利用当前的预测对单个类特征fc∈F进行分组,并迫使它们接近相应的原型zc∈Z,旨在缩小类内分布。我们使用余弦相似度来计算zc和fc之间的距离,损失Lcs定义为:
实验结果