跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

图像分割中的标签偏差公平性:影响、测量与缓解

文章摘要

本文提出了一种数据中心的置信学习适配方法,用于在图像分割中检测和缓解标签偏差。该方法无需干净的无偏标注,通过比较训练标签与模型置信预测来识别方向性错误,并利用偏差对特征空间中子组可分离性的影响进行缓解,在三个数据集上实现了公平性能。

来源arXiv Computer Vision作者: Aditya Parikh, Stella Frank, Sneha Das, Aasa Feragen
图像分割中的标签偏差公平性:影响、测量与缓解
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

图像分割中的标签偏差问题长期以来未得到充分探索。传统的偏差检测方法通常需要干净、无偏的标注数据,而这在实际中往往难以获得。最新发表在arXiv上的一篇论文(arXiv:2605.06891)提出了一种新颖的数据中心方法,通过适配置信学习来直接检测训练数据中的标签偏差,无需依赖无偏的真实标签。

该方法通过比较提供的训练标签与模型自身的置信预测,识别出方向性错误,从而量化偏差的存在和性质。与传统的重叠度量(如Dice系数)不同,该方法能够有效捕捉系统性偏差。研究进一步发现,标签偏差会影响编码器特征空间中子组的可分离性,团队巧妙地利用这一现象进行偏差缓解,而非简单地抑制它。

论文在三个数据集上进行了评估,涵盖从合成偏差到真实偏差的场景。实验结果表明,该框架能够可靠地检测和缓解偏差,在无干净标签的情况下实现跨实验条件的公平性能。具体而言,在合成数据集中,该方法准确识别了预设的偏差模式;在真实世界的医疗影像分割任务中,它也成功减少了不同人口统计学子组间的性能差距。这项工作为图像分割领域的公平性研究提供了新颖的工具和思路,有助于减少AI系统中因标注过程引入的社会偏见。未来,研究人员计划将该方法扩展到其他视觉任务,并探索其在不同标注协议下的鲁棒性。

展开要点与分析

文章情报

工程师进阶

要点

  • 标签偏差是注释管道中产生的组条件标签错误,导致不同人口统计子组间的性能差异
  • 提出将置信学习适配到图像分割,无需干净标注即可在训练数据中检测标签偏差
  • 发现标签偏差影响编码器特征空间中的子组可分离性,并利用该现象进行偏差缓解
  • 在合成和真实偏差数据集上验证了框架的有效性

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。