反事实公平的图像分类器是否满足群体公平？——理论与实证研究
该研究探讨反事实公平（CF）与群体公平（GF）在图像分类中的关系。通过构建新数据集并利用高质量图像编辑方法，发现CF不必然导致GF，存在与敏感属性相关但不由其引起的潜在属性G。提出反事实知识蒸馏（CKD）方法减少对G的依赖，从而使满足CF的模型也能满足GF。
近年来，算法公平性成为机器学习领域的重要议题，其中反事实公平（Counterfactual Fairness, CF）和群体公平（Group Fairness, GF）是两种核心概念。然而，CF与GF之间的确切关系尚不明确，尤其是在图像分类任务中。原因在于，评估CF需要获取关于敏感属性的反事实样本（例如，同一人物但具有不同第二性征的照片），而从现有图像数据中难以直接获得此类样本。
针对这一挑战，本研究通过高质量图像编辑方法生成反事实样本，并结合人工标注，构建了两个新的图像数据集——\oursceleb和\ourslfw。这两个数据集建立在广泛使用的图像GF基准之上，因此能够同时评估CF和GF。实验结果表明，与先前在表格数据集上的观察相反，在图像分类中，满足CF的模型并不一定满足GF。
研究者从理论上解释了这一现象：可能存在一个潜在属性$G$，它与敏感属性高度相关，但并非由敏感属性引起（例如，第二性征与头发长度高度相关）。这种相关性导致模型在追求CF时仍可能对$G$产生依赖，从而违背GF。基于此，作者提出了一种简单的基线方法——反事实知识蒸馏（Counterfactual Knowledge Distillation, CKD），旨在减少模型对敏感属性相关潜在属性的依赖。
在\oursceleb和\ourslfw数据集上的大量实验表明，当成功降低对$G$的依赖（例如使用CKD）时，满足CF的模型能够同时满足GF。这一发现为设计更公平的图像分类器提供了新的思路，并强调了在评估公平性时综合考虑多种公平概念的重要性。该论文已被NeurIPS 2024 Track Datasets and Benchmarks接收，并提供了完整的代码和数据资源，供后续研究使用。研究团队由Sangwon Jung等四位作者组成，他们通过理论分析和实证验证，为图像公平性研究提供了重要的新见解。