予測モデリングにおいて、モデルがなぜ特定の予測を生成するのかを説明する能力はますます重要になっている。ブラックボックスモデルは内部メカニズムの透明な説明を提供しないため、正確な予測であっても解釈や検証が困難である。医療診断や金融リスク評価などの重要なコンテキストでは、予測精度だけではモデルの決定理由が説明されない限り、十分な検証指標とはならない。IMEX(Interaction-Based Model Explanation)アプローチは、説明可能な予測モデリングにおける方法論的方向性を示すものである。
IMEXは、どの変数がターゲット予測に最も寄与し、どの変数間の相互作用がターゲット決定に有意であるかを識別するように設計されている。この手法は高次相互作用分析に制限を課さず、基数が2を超える特徴サブセットの調査を可能にする。特徴重要度の特定に加えて、IMEXは結果に影響を与える潜在メカニズムと一致する可能性のある相互作用パターンの探索を可能にする。IMEXアルゴリズムを適用することで、予測の解釈可能性マップを構築できる。
IMEXフレームワークは、個々の特徴の寄与を定量化する静的相関パワー(PCS)と、特徴間の非加法的効果を捉える相互作用相関パワー(PCI)という2つの補完的な指標に基づいている。本研究では、PCSコンポーネントを3つの既知構造の合成データセット上でINVASEとの比較により実験的に検証した。結果は、入力特徴と予測ターゲットの間に非線形、条件付き、多重共線性の関係がある場合でも、IMEXが関連する特徴レベルの構造を復元できることを示している。
この研究の意義は、高次元で複雑なデータに対するモデル解釈可能性の新しいツールを提供する点にある。IMEXは重要な特徴を特定するだけでなく、特徴間の高次相互作用を明らかにすることができ、複雑システムの内在的ルールの理解に貢献する。今後の課題として、アルゴリズムの性能最適化や、より多くの実世界データセットでの検証が挙げられる。