反事実説明は、モデルの決定を変える最小限の入力変更を特定することで、機械学習の予測を説明する手法です。しかし、既存の多くの手法は予測を変える代替案の生成には成功しているものの、ドメイン知識や介入制約を組み込む明示的なメカニズムを欠いているため、非現実的または実行不可能な推奨を生み出しがちです。神経記号AIは、データ駆動型の予測モデルと、人間が理解できるルールや実行可能な行動を表現できる記号推論を組み合わせることで、有望な方向性を示しています。
本論文では、実現可能性を考慮した反事実説明を生成するためのモジュール型神経記号フレームワークであるPACEを提案します。このフレームワークは、予測と推論を2つのコンポーネントに分離します。分類のためのニューラル予測モデルと、反事実生成中にドメイン固有の制約を強制する記号推論層です。実行可能な介入を明示的にモデル化することで、フレームワークはドメイン知識と整合し、かつ解釈可能で実行可能な説明を生成します。このアプローチはモデル非依存であり、現実的な意思決定支援を必要とする領域に適応できます。
ケーススタディはAdult Incomeデータセットで実施され、多層パーセプトロン分類器と、教育、職業、労働時間の実行可能な変更をエンコードしつつ不変属性を保持する回答集合プログラミング（ASP）規則を組み合わせています。結果は、反事実の有効性と妥当性の間のトレードオフを浮き彫りにし、記号制約がドメイン固有の実現可能性要件をよりよく満たす説明を生み出すことを示しています。これは、説明可能AIにおける透明で実現可能性を考慮した反事実説明に対する神経記号手法の可能性を示しています。
本論文は2026年7月1日に提出され、Pavel Iakovets氏ら4名の著者によるもので、人工知能（cs.AI）分野に属します。要約では、既存の反事実説明手法の実現可能性に関する課題が強調され、PACEフレームワークの設計理念と予備的な実験結果が詳述されています。神経予測と記号推論を組み合わせることで、PACEは有効かつ実行可能な反事実説明を生成する新たなアプローチを提供し、現実的な意思決定支援が必要なシナリオで重要な役割を果たすことが期待されます。