影像分割中的標籤偏差問題長期以來未得到充分探索。傳統的偏差檢測方法通常需要乾淨、無偏的標註資料,而這在實際中往往難以獲得。最新發表在arXiv上的一篇論文(arXiv:2605.06891)提出了一種新穎的資料中心方法,透過適配置信學習來直接檢測訓練資料中的標籤偏差,無需依賴無偏的真實標籤。
該方法透過比較提供的訓練標籤與模型自身的置信預測,識別出方向性錯誤,從而量化偏差的存在和性質。與傳統的重疊度量(如Dice係數)不同,該方法能夠有效捕捉系統性偏差。研究進一步發現,標籤偏差會影響編碼器特徵空間中子組的可分離性,團隊巧妙地利用這一現象進行偏差緩解,而非簡單地抑制它。
論文在三個資料集上進行了評估,涵蓋從合成偏差到真實偏差的場景。實驗結果表明,該框架能夠可靠地檢測和緩解偏差,在無干淨標籤的情況下實現跨實驗條件的公平效能。具體而言,在合成資料集中,該方法準確識別了預設的偏差模式;在真實世界的醫療影像分割任務中,它也成功減少了不同人口統計學子組間的效能差距。這項工作為影像分割領域的公平性研究提供了新穎的工具和思路,有助於減少AI系統中因標註過程引入的社會偏見。未來,研究人員計劃將該方法擴充套件到其他視覺任務,並探索其在不同標註協議下的魯棒性。