PACE：一種用於合理且可操作的反事實解釋的神經符號框架

在機器學習領域，反事實解釋透過識別最小的輸入變化來解釋模型預測，這些變化能夠改變模型的決策。然而，現有方法常常生成不現實或不可行的建議，因為它們缺乏融入領域知識和干預約束的明確機制。神經符號AI提供了一種有前景的方向，它將資料驅動的預測模型與能夠表示人類可理解規則和可行行動的符號推理相結合。本文提出PACE，一個模組化的神經符號框架，用於生成考慮可行性的反事實解釋。該框架將預測和推理分為兩個元件：一個用於分類的神經預測模型，以及一個在反事實生成過程中施加領域特定約束的符號推理層。透過顯式建模可行的干預措施，該框架生成的解釋既與領域知識一致，又保持可解釋性和可操作性。PACE的方法與模型無關，可適用於需要現實決策支援的領域。文章在Adult Income資料集上進行了案例研究，結合了一個多層感知器分類器和Answer Set Programming（ASP）規則，這些規則編碼了教育、職業和工作時間的可行修改，同時保留了不可變屬性。結果突出了反事實有效性與合理性之間的權衡，並表明符號約束能夠產生更好地滿足領域可行性要求的解釋。這項工作展示了神經符號方法在可解釋AI中生成透明、考慮可行性的反事實解釋的潛力，為AI系統的可信任和可操作性提供了新的思路。此外，PACE框架的模組化設計使得它能夠輕鬆適應不同的應用場景，例如在醫療診斷、金融風險評估和自動駕駛等領域，這些領域都需要結合領域知識來生成合理的解釋。透過將神經網路的靈活性與符號推理的透明性相結合，PACE不僅提高了反事實解釋的實用性，還增強了使用者對AI決策的信任。未來的研究可以進一步探索如何將PACE擴充套件到更復雜的資料型別和約束條件，以及如何與使用者互動以最佳化解釋的生成過程。