帰属不可能性：共線性の下で忠実、安定、完全な特徴ランキングは存在しない

新しい研究論文が、特徴帰属における根本的な不可能性定理を提示した。特徴量が共線的な場合、忠実性、安定性、完全性を同時に満たす特徴ランキングは存在しない。この研究はDrake Carakerらによって行われ、「The Attribution Impossibility: No Feature Ranking Is Faithful, Stable, and Complete Under Collinearity」と題され、arXivで公開された。

研究者らは、共線的な特徴ペアに対して、ランキングがコイン投げに等しくなることを証明した。これは、特徴量の寄与を区別できないためである。不可能性は4つのモデルクラスで定量化された。勾配ブースティングでは帰属比率が1/(1-ρ²)で発散し、Lassoでは無限大となり、ランダムフォレストでは収束するが有限の限界がある。この結果は、共線性下での特徴帰属に固有の不確実性があり、無視できないことを示している。

この問題の解決策として、DASH（多様化されたSHAP集約）と呼ばれるアンサンブル平均法が提案された。DASHは複数のランダム基底モデルの帰属を平均することで安定化する。これは不偏集約の中でパレート最適であることが証明され、クラメール・ラオ分散限界を達成し、コンパクトなアンサンブルサイズの公式を持つ。忠実-完全手法（SHAPなど）と比較して、DASHは共線性下で安定しており、対称な特徴には同順位を報告する。

研究は完全な帰属設計空間を特徴づけた。正確に2つの手法ファミリーが存在する。忠実-完全手法（不安定で、ランキングが最大50%の確率で反転する）と、DASHのようなアンサンブル手法（安定）である。この二分法の外側には方法は存在せず、忠実性と安定性を同時に満たそうとする試みは全て失敗する。この分類は実務者に明確な指針を与える。

定理の検証にはLean 4定理証明器が使用され、16の公理から305の定理が導出され、未完了の証明はなかった。これは説明可能AIにおいて初めての形式的に検証された不可能性結果であり、理論に厳密な数学的基盤を提供する。

実用的には、帰属不安定性を検出するためのZ検定ワークフローと単一モデルスクリーニングツールが含まれる。77の公開データセットの調査では、68%が帰属不安定性を示し、問題が広く存在することが明らかになった。研究はまた、特徴量が等しい因果効果を持つ場合、条件付きSHAPに切り替えても不可能性を回避できないことを指摘している。

この定理は公平性監査に直接的な影響を与える。SHAPベースの代理差別監査は共線性の下で信頼できないことが証明され、帰属の不安定性が差別の誤った判定につながる可能性がある。研究者はコードとデータセットを提供し、さらなる研究と応用を促進している。この研究は特徴帰属の理論的限界を明らかにするとともに、実践者に対処法を提供し、機械学習の説明可能性の分野で重要な進展をもたらす。