畳み込みニューラルネットワーク（CNN）は、その高い精度と自動化の速度により、多くの領域や実世界の分類アプリケーションで広く利用されており、ユーザーがより高度な専門知識を要するタスクに集中できるよう支援している。モデルをより深く理解し、展開時のバイアスを回避するために、訓練後に説明可能AI（XAI）技術を用いることができる。しかし、XAIソリューションのリストが拡大するにつれて、それらの比較は分岐し、評価に関する合意に達することができていない。
この問題に対処するため、Wistan Marchadourらによる論文「少数クラスにおける忠実度：最適化された摂動を用いた実条件下CNN分類器の説明評価」は、2026年6月23日にarXivに提出された。本論文は、クラス数がしばしば少ない実条件アプリケーションに焦点を当てた、忠実度ベースのXAI指標の変種を提案する。このアプローチは、分布内で不確実性を誘発する摂動を生成し、XAI手法の忠実性を適切に測定することを保証する。
評価フレームワークの有用性を示すため、著者らはそれを人間中心の物体位置特定およびセグメンテーション指標と比較した。これらの指標は人間の知覚の観点から説明の位置特定品質を測定するのに対し、新しいフレームワークはモデル行動の変化の観点から説明の忠実性を評価し、両者は相補的である。
このフレームワークは医療画像と自然画像の両方のアプリケーションに適用された。結果は、領域の特性、データキュレーションの方法、およびXAIソリューションの選択の間に複雑な相関があり、これらの要因が新しいCNNモデルの訓練を検証するプロセスに共同で影響することを示している。論文は、これらの要因を総合的に考慮することによってのみ、モデル説明の品質をより信頼性高く評価し、実際の展開に信頼できる根拠を提供できると指摘している。
本論文はコンピュータビジョンとパターン認識（cs.CV）および人工知能（cs.AI）の学際領域に属し、全文はarXivで入手可能で、DOIは10.48550/arXiv.2606.28391である。