深層学習の説明可能性は、医療診断、自動運転、金融取引など、高いリスクを伴う意思決定を行うコンピュータビジョンアプリケーションにおいて極めて重要な課題である。概念ボトルネックモデル（CBM）は、高レベル概念のボトルネック層を導入することで、分類問題において説明可能でありながら正確な予測を提供する手法として近年注目を集めている。しかし、既存のCBM手法の多くは、概念スコアを線形に結合して最終的な予測を得ている。この線形集約アプローチには、二つの重大な欠点がある。第一に、多数の概念を使用すると、線形結合の重みを解釈することが難しくなり、説明可能性が低下する。第二に、線形結合は概念間の情報漏洩を引き起こしやすく、ある概念のスコアが別の概念に関連する情報を予測に持ち込む可能性がある。実際には、概念と出力ロジットの間の関係は非線形であることが多く、線形仮定は不適切である。
これらの課題を解決するために、フランスの研究チームはホーフディング概念ボトルネックモデル（HCBM）を提案した。HCBMの核心は、勾配ブースティング木のホーフディング関数分解を利用することにある。この分解により、各概念の非線形的な寄与を抽出し、かつスパースな集約（少数の重要な概念のみを選択）を実現する。さらに、HCBMは素含項（prime implicants）を用いて予測を表現するため、決定プロセスが透明で理解しやすい。
理論的な解析により、HCBMは概念間の情報漏洩に対して頑健であることが証明されている。複数の標準的な画像分類データセットを用いた実験では、HCBMは線形CBMと同等以上の分類精度を達成しながら、説明可能性の指標では大幅に優れていることを示した。さらに、HCBMは物体検出タスクにも拡張可能であり、特に高解像度の俯瞰画像（オーバーヘッドイメージ）という困難なシナリオにおいて高い性能を発揮することが実証された。この成果は、説明可能性とロバスト性を両立する深層学習モデルの開発に新たな可能性を開くものであり、航空宇宙、防衛、リモートセンシングなど、高い説明可能性が要求される分野での応用が期待される。
本論文はClément Bénard氏を含む4名の著者により執筆され、2026年5月22日にarXivに提出された。論文はarXiv:2606.00082で入手可能である。