Mitigating Calibration Bias Without Fixed Attribute Grouping for Improved Fairness in Medical Imaging Analysis

摘要

这项工作专注于解决医学图像分析中的校准偏差问题。提出了一种新颖的两阶段方法：Cluster-Focal，首先识别出校准不佳的样本，将它们聚类成组，并引入组内焦点损失来改善校准偏差。评估了该方法在皮肤病变分类和预测多发性硬化症（MS）患者未来病变活动方面的效果。结果表明，该方法能够有效控制最差表现子群中的校准误差，同时保持预测性能，并且优于最近的基线模型。

方法

Fig. 1. 描述了一个模型对于预测多发性硬化症（MS）患者未来新病变活动的校准偏差情况的示意图。 (a) 可靠性图表：没有考虑公平性的 ERM（经验风险最小化）在整体和年轻患者方面表现出良好的校准，但对于年长患者则产生了显著过度自信且不正确的预测。 (b) 两位 MS 患者的高置信度预测示例，年长患者结果不正确，年轻患者结果正确。对于年长患者的较差校准导致他们更可能出现高置信度的错误预测。

Fig. 2. Cluster-Focal 框架。训练过程是一个两阶段方法，包括识别（聚类）校准不良样本和组内 Focal 损失。在测试时，训练好的模型 fpred 被部署，然后跨不同子群分割（如性别或年龄）评估校准偏差和预测性能。（以女性/男性患者为例进行可视化。）

实验结果