PACE：一种用于合理且可操作的反事实解释的神经符号框架

在机器学习领域，反事实解释通过识别最小的输入变化来解释模型预测，这些变化能够改变模型的决策。然而，现有方法常常生成不现实或不可行的建议，因为它们缺乏融入领域知识和干预约束的明确机制。神经符号AI提供了一种有前景的方向，它将数据驱动的预测模型与能够表示人类可理解规则和可行行动的符号推理相结合。本文提出PACE，一个模块化的神经符号框架，用于生成考虑可行性的反事实解释。该框架将预测和推理分为两个组件：一个用于分类的神经预测模型，以及一个在反事实生成过程中施加领域特定约束的符号推理层。通过显式建模可行的干预措施，该框架生成的解释既与领域知识一致，又保持可解释性和可操作性。PACE的方法与模型无关，可适用于需要现实决策支持的领域。文章在Adult Income数据集上进行了案例研究，结合了一个多层感知器分类器和Answer Set Programming（ASP）规则，这些规则编码了教育、职业和工作时间的可行修改，同时保留了不可变属性。结果突出了反事实有效性与合理性之间的权衡，并表明符号约束能够产生更好地满足领域可行性要求的解释。这项工作展示了神经符号方法在可解释AI中生成透明、考虑可行性的反事实解释的潜力，为AI系统的可信任和可操作性提供了新的思路。此外，PACE框架的模块化设计使得它能够轻松适应不同的应用场景，例如在医疗诊断、金融风险评估和自动驾驶等领域，这些领域都需要结合领域知识来生成合理的解释。通过将神经网络的灵活性与符号推理的透明性相结合，PACE不仅提高了反事实解释的实用性，还增强了用户对AI决策的信任。未来的研究可以进一步探索如何将PACE扩展到更复杂的数据类型和约束条件，以及如何与用户交互以优化解释的生成过程。