反事實公平的圖像分類器是否滿足羣體公平？——理論與實證研究
該研究探討反事實公平（CF）與羣體公平（GF）在圖像分類中的關係。通過構建新數據集並利用高質量圖像編輯方法，發現CF不必然導致GF，存在與敏感屬性相關但不由其引起的潛在屬性G。提出反事實知識蒸餾（CKD）方法減少對G的依賴，從而使滿足CF的模型也能滿足GF。
近年來，算法公平性成為機器學習領域的重要議題，其中反事實公平（Counterfactual Fairness, CF）和羣體公平（Group Fairness, GF）是兩種核心概念。然而，CF與GF之間的確切關係尚不明確，尤其是在圖像分類任務中。原因在於，評估CF需要獲取關於敏感屬性的反事實樣本（例如，同一人物但具有不同第二性徵的照片），而從現有圖像數據中難以直接獲得此類樣本。
針對這一挑戰，本研究通過高質量圖像編輯方法生成反事實樣本，並結合人工標註，構建了兩個新的圖像數據集——\oursceleb和\ourslfw。這兩個數據集建立在廣泛使用的圖像GF基準之上，因此能夠同時評估CF和GF。實驗結果表明，與先前在表格數據集上的觀察相反，在圖像分類中，滿足CF的模型並不一定滿足GF。
研究者從理論上解釋了這一現象：可能存在一個潛在屬性$G$，它與敏感屬性高度相關，但並非由敏感屬性引起（例如，第二性徵與頭髮長度高度相關）。這種相關性導致模型在追求CF時仍可能對$G$產生依賴，從而違背GF。基於此，作者提出了一種簡單的基線方法——反事實知識蒸餾（Counterfactual Knowledge Distillation, CKD），旨在減少模型對敏感屬性相關潛在屬性的依賴。
在\oursceleb和\ourslfw數據集上的大量實驗表明，當成功降低對$G$的依賴（例如使用CKD）時，滿足CF的模型能夠同時滿足GF。這一發現為設計更公平的圖像分類器提供了新的思路，並強調了在評估公平性時綜合考慮多種公平概念的重要性。該論文已被NeurIPS 2024 Track Datasets and Benchmarks接收，並提供了完整的代碼和數據資源，供後續研究使用。研究團隊由Sangwon Jung等四位作者組成，他們通過理論分析和實證驗證，為圖像公平性研究提供了重要的新見解。