歸因不可能：共線性下無特徵排序能同時滿足忠實性、穩定性和完備性

一篇新的研究論文提出了一個關於特徵歸因的根本性不可能性定理：當特徵共線時，沒有任何特徵排序方法能同時滿足忠實性、穩定性和完備性。該研究由Drake Caraker等人完成，標題為“The Attribution Impossibility: No Feature Ranking Is Faithful, Stable, and Complete Under Collinearity”，並已在arXiv上釋出。

研究人員證明，對於共線特徵對，排序實際上等同於拋硬幣，因為無法區分它們對模型輸出的貢獻。他們量化了四種模型類中的不可能性：對於梯度提升，歸因比率以1/(1-ρ²)形式發散；對於Lasso，甚至趨向無窮；而對於隨機森林，雖然收斂但仍有界。這一發現表明，特徵歸因在共線性情況下存在固有的不確定性，不可忽視。

為了解決這一問題，研究者提出了DASH（多樣化SHAP聚合）方法，這是一種整合平均技術，透過聚集多個隨機基模型來穩定歸因。DASH被證明是帕累托最優的無偏聚合方法，達到了Cramer-Rao方差下界，並具有緊湊的整合大小公式，能夠在實踐中高效使用。與忠實-完備方法（如SHAP）相比，DASH在共線性下穩定得多，為對稱特徵報告平局而非隨機排序。

該研究系統地表徵了完整的歸因設計空間：恰好存在兩類方法——忠實-完備方法（不穩定，排序翻轉率高達50%）和整合方法（如DASH，穩定）。沒有方法能超出這一二分法，這意味著任何試圖同時滿足忠實性和穩定性的方法都會失敗。這一分類為從業者提供了清晰的指導。

為了驗證定理，研究者使用了Lean 4定理證明器，從16條公理推匯出305條定理，且沒有未完成的證明。這據稱是可解釋人工智慧中第一個正式驗證的不可能性結果，為理論提供了嚴格的數學基礎。

實踐方面，該框架包括一個Z檢驗工作流和單模型篩查工具，用於檢測歸因不穩定性。在77個公共資料集的調查中，68%的資料集表現出歸因不穩定性，表明問題普遍存在。研究還指出，即使切換到條件SHAP，當特徵具有相等因果效應時也無法逃避該不可能性。

該定理對公平性審計有直接影響：基於SHAP的代理歧視審計在共線性下被證明是不可靠的，因為歸因的不穩定性會導致歧視指控的誤判。研究者提供了配套程式碼和資料集，以促進進一步研究和應用。這一工作不僅揭示了特徵歸因的理論極限，也為實踐者提供了應對策略，是機器學習可解釋性領域的重要進展。