人工知能分野では、モデルの解釈可能性が重要な研究テーマとなっている。従来の概念ボトルネックモデル（CBM）は本質的な解釈可能性を提供するが、多くの場合、事前定義された概念語彙や教師ありアノテーションに依存し、明確な概念の根拠付けが欠けている。また、各概念を単一の画像レベルのスコアで要約するため、空間的な繰り返しや概念間の依存関係が無視される。これらの問題に対処するため、研究者らはグラフベース概念ボトルネックモデル（G-CBM）を提案した。これは、教師なし概念発見とグラフ注意ネットワークを通じて、より詳細な解釈を可能にする枠組みである。
G-CBMの核心的な革新は、非負値行列因子分解（NMF）を用いた教師なし概念発見と、発見された概念を各画像の概念グラフのノードとして表現することにある。モデルは領域レベルの特徴をこれらの概念ノードにマッチングさせ、概念の根拠付けを提供するとともに、画像全体での概念の繰り返し出現を捉える。調整可能な概念フィルタリング閾値τを導入することで、弱い領域レベルの特徴を抑制し、モデルのロバスト性と選択性を高める。その後、グラフ注意ネットワーク（GAT）がノード間の非線形依存関係をモデル化し、概念レベルの推論を実行する。
複数のベンチマークデータセットでの実験により、G-CBMは従来手法を大幅に上回る性能を示した。ImageNet、HAM10000、PH2、Derm7ptにおいて、G-CBMはResNet-50ベースラインと比較して平均相対AUCが3.7%向上した。特に、概念フィルタリング機構は予測性能を向上させるだけでなく、選択的な概念使用を促進する。PH2データセットでは、10個の概念のうちわずか2個を使用してAUC 0.96を達成し、HAM10000では9個の概念のうち3.8個でAUC 0.92を達成した。皮膚科学のタスクでは、G-CBMは外部アノテーションを必要とする教師あり手法と競合する結果を示した。削除/挿入分析とランダムアブレーション対照実験により、学習された概念ランキングがモデルの予測を忠実に反映していることが確認された。
本研究は、解釈可能な人工知能に新たな方向性を示すものであり、G-CBMは教師なし概念発見とグラフ推論を組み合わせることで、モデルの性能を維持しつつ解釈可能性を強化した。本論文はIJCAI-ECAI 2026 XAIワークショップ（ドイツ・ブレーメン）で採択され、7ページ、4図から成る。著者はMd Mohasin Hossain氏を含む16名。arXiv IDは2607.01416、DOIは登録手続き中。関連コードやデータは今後公開される予定である。この研究は、特に医療画像診断など、透明性が求められる分野での応用が期待される。