图像分割中的标签偏差问题长期以来未得到充分探索。传统的偏差检测方法通常需要干净、无偏的标注数据,而这在实际中往往难以获得。最新发表在arXiv上的一篇论文(arXiv:2605.06891)提出了一种新颖的数据中心方法,通过适配置信学习来直接检测训练数据中的标签偏差,无需依赖无偏的真实标签。
该方法通过比较提供的训练标签与模型自身的置信预测,识别出方向性错误,从而量化偏差的存在和性质。与传统的重叠度量(如Dice系数)不同,该方法能够有效捕捉系统性偏差。研究进一步发现,标签偏差会影响编码器特征空间中子组的可分离性,团队巧妙地利用这一现象进行偏差缓解,而非简单地抑制它。
论文在三个数据集上进行了评估,涵盖从合成偏差到真实偏差的场景。实验结果表明,该框架能够可靠地检测和缓解偏差,在无干净标签的情况下实现跨实验条件的公平性能。具体而言,在合成数据集中,该方法准确识别了预设的偏差模式;在真实世界的医疗影像分割任务中,它也成功减少了不同人口统计学子组间的性能差距。这项工作为图像分割领域的公平性研究提供了新颖的工具和思路,有助于减少AI系统中因标注过程引入的社会偏见。未来,研究人员计划将该方法扩展到其他视觉任务,并探索其在不同标注协议下的鲁棒性。