見解：説明可能性研究はアドホックな手法よりも基礎に優先順位を置くべき
説明可能AI（XAI）技術が普及しているにもかかわらず、説明が実際のワークフローに影響を与えることはほとんどありません。本稿では、不明確な問題定式化、不十分な評価目標、説明駆動型フィードバックのパイプラインの欠如などの基礎的課題に焦点を移すべきだと主張します。最近のICML、NeurIPS、ICLRの論文分析と実務者調査に基づき、著者らはXAIをより人間中心で行動指向のパラダイムに移行させるためのチェックリストを提案しています。
Michal Moshkovitzら10名の研究者による最新の研究によると、説明可能AI（XAI）の技術が数多く登場しているにもかかわらず、それらの説明が実際の業務プロセスで活用されることはほとんどありません。研究者らは、説明が生成されてもすぐに破棄され、意味のある行動につながっていないと指摘しています。このギャップは基礎的な欠陥を反映しています。すなわち、説明をエンドツーエンドの人間参加型システムに統合する方法論がまだ確立されていないのです。この論文は「見解：説明可能性研究はアドホックな手法よりも基礎に優先順位を置くべき」と題され、ICML 2026のポジションペーパーとして採択され、arXivに公開されました。
本論文の核となる主張は、機械学習コミュニティがアドホックなXAI手法から脱却し、基礎的・構造的課題に取り組むべきであるというものです。著者チームは、ICML、NeurIPS、ICLRの最近の論文を体系的に分析し、XAI実務者へのアンケート調査を実施することで、分野の累積的進歩を制限する繰り返し発生する問題を明らかにしました。具体的には、「説明」の目標が曖昧で評価方法が実ニーズを反映していないこと、説明が実際のシステムにフィードバックとして組み込めるように設計されていないこと、などが挙げられます。
研究者らはさらに、現在のXAI研究は技術そのものに焦点を当てすぎており、説明を実際のシステムに統合する方法を軽視していると批判しています。例えば、多くの手法は特定のベンチマークデータセットでは良好に機能するものの、実際のシナリオでは文脈やユーザーの理解不足により失敗します。そこで論文では、XAIをより人間中心で行動指向のパラダイムに移行させるための実用的なチェックリストを提案しています。チェックリストには、説明の目標ユーザーと使用シナリオの明確化、実行可能な評価指標の設計、説明と意思決定間のフィードバックループの構築、ユーザーのニーズに応じて説明を動的に調整する仕組みの確保などが含まれます。
基礎的な問題の明確化を重視することにより、著者らは説明を実行可能でフィードバック駆動型のAIシステムに統合するためのロードマップを提供しようとしています。この取り組みは、特に人間の監督が必要な重要なアプリケーション領域において、信頼性が高く透明で実用的な人工知能システムを構築する上で重要な意味を持ちます。