在深度学习中,可解释性对于高风险决策领域的应用至关重要。概念瓶颈模型(CBM)通过引入一个由高层概念组成的瓶颈层,在保持预测准确性的同时提供一定程度的可解释性。然而,现有的CBM方法大多采用线性方式聚合概念分数来得出最终预测。这种线性聚合方式存在两个主要缺陷:首先,当使用大量概念时,解释性会被削弱,因为用户难以理解众多概念的线性组合;其次,线性组合容易导致信息泄露,即某些概念可能泄露其他概念的信息,使得预测不再基于纯粹的概念语义。实际上,概念与输出对数几率之间的关系通常是非线性的,线性假设过于简化。
为了解决这些问题,来自法国的研究团队提出了Hoeffding概念瓶颈模型(HCBM)。HCBM的核心创新在于利用Hoeffding函数分解对梯度提升树进行分解,从而将预测表达为各概念的非线性贡献之和。这种分解不仅能够捕捉概念与输出之间的非线性关系,而且通过稀疏化处理,只选择少数几个重要概念进行预测,从而极大地增强了模型的解释性。此外,HCBM采用素蕴含项(prime implicants)来生成最终预测,使得决策过程更加透明和可理解。
理论分析证明,HCBM对概念间的信息泄露具有鲁棒性,这意味着即使不同概念之间存在相关性,HCBM也能保持预测的可靠性和可解释性。在多个标准图像分类数据集上的实验表明,HCBM在分类准确率上与线性CBM相当甚至更优,同时在可解释性指标上显著领先。更令人印象深刻的是,HCBM可以无缝扩展到目标检测任务。研究团队选择了一个极具挑战性的应用场景——高分辨率遥感图像的目标检测,并证实HCBM在该场景下仍然表现出色。这一成果对于遥感、航空航天、国防等对可解释性要求极高的领域具有重要意义,因为在这些领域,模型不仅要准确,还要能够解释其决策依据。
该论文由Clément Bénard及其合作者完成,于2026年5月22日提交至arXiv预印本平台,论文编号为2606.00082,目前可在arXiv上查阅全文。