文章目录
- Semi-supervised Histological Image Segmentation via Hierarchical Consistency Enforcement
- 摘要
- 方法
- 对学生模型进行有监督学习
- 层级式一致性强化模块
- Hierarchical Consistency Loss (HC-Loss)
- 以自我为导向的分层一致性损失
- 实验结果
Semi-supervised Histological Image Segmentation via Hierarchical Consistency Enforcement
摘要
- 对应用于隐藏特征空间的扰动进行不变预测
- 提出了一种基于平均教师的分层一致性强化（HCE）框架和一种具有可学习和自引导机制的新型分层一致性损失（HC损失）
- HCE将来自编码器的分层特征的扰动版本作为辅助解码器的输入，并鼓励辅助解码器和主解码器的预测是一致的
- HC损失有助于教师模型生成可靠的指导，并增强学生模型的所有解码器之间的一致性。
方法
HCE由用于半监督分割的平均教师模型和两个新模块组成
两个新模块：分层一致性强化（HCE）模块和分层一致性损失（HC损失）函数
HCE在训练过程中加强了层次一致性
HC损失（Llh c）包括可学习的分层一致性损失，用于为学生模型提供更准确的指导
自引导的分层一致度损失（Lsgh c）用于惩罚主解码器和辅助解码器之间的不一致预测
EMA表示指数移动平均
RB3和RB4是扩张率分别为2和4的扩张残差块
对学生模型进行有监督学习
损失函数：
交叉熵和方差约束的交叉损失（Lvar）:
有监督总损失：
层级式一致性强化模块
zh是编码器第h块
zh~是将一致性约束在变体表示上，而不是直接使用原始表示（引入R个随机扰动函数）
强制学生模型中的辅助解码器和主解码器的输出与教师模型生成的指导一致，在辅助解码器之前随机引入dropout和特征级噪声作为扰动函数
B–>minbatch
u–>无标签
H—>层级式块的数量，h—>第几层
y---->预测的结果
d—>距离测量（均方差）
g—>经过扰动的概率预测
i---->像素级
头上有一撇是教师模型输出，没有的是学生模型
Hierarchical Consistency Loss (HC-Loss)
可学习的层级式一致性损失：防止教师模型获得高不确定性估计并加强层次一致性
我的理解是：u代表可靠性，可以调整y更加相似于学生模型的输出或者教师模型的输出
以自我为导向的分层一致性损失
总损失函数为
实验结果
