跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

Hoeffding概念瓶颈模型及其在遥感图像中的应用

文章摘要

Hoeffding概念瓶颈模型(HCBM)利用梯度提升树的Hoeffding函数分解,提供非线性且稀疏的概念分数聚合,增强可解释性,在分类和目标检测任务中表现优于传统线性CBM。

来源arXiv Machine Learning作者: Cl\'ement B\'enard, Manon Arfib, Christophe Labreuche, Victor Qu\'etu
Hoeffding概念瓶颈模型及其在遥感图像中的应用
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在深度学习中,可解释性对于高风险决策领域的应用至关重要。概念瓶颈模型(CBM)通过引入一个由高层概念组成的瓶颈层,在保持预测准确性的同时提供一定程度的可解释性。然而,现有的CBM方法大多采用线性方式聚合概念分数来得出最终预测。这种线性聚合方式存在两个主要缺陷:首先,当使用大量概念时,解释性会被削弱,因为用户难以理解众多概念的线性组合;其次,线性组合容易导致信息泄露,即某些概念可能泄露其他概念的信息,使得预测不再基于纯粹的概念语义。实际上,概念与输出对数几率之间的关系通常是非线性的,线性假设过于简化。

为了解决这些问题,来自法国的研究团队提出了Hoeffding概念瓶颈模型(HCBM)。HCBM的核心创新在于利用Hoeffding函数分解对梯度提升树进行分解,从而将预测表达为各概念的非线性贡献之和。这种分解不仅能够捕捉概念与输出之间的非线性关系,而且通过稀疏化处理,只选择少数几个重要概念进行预测,从而极大地增强了模型的解释性。此外,HCBM采用素蕴含项(prime implicants)来生成最终预测,使得决策过程更加透明和可理解。

理论分析证明,HCBM对概念间的信息泄露具有鲁棒性,这意味着即使不同概念之间存在相关性,HCBM也能保持预测的可靠性和可解释性。在多个标准图像分类数据集上的实验表明,HCBM在分类准确率上与线性CBM相当甚至更优,同时在可解释性指标上显著领先。更令人印象深刻的是,HCBM可以无缝扩展到目标检测任务。研究团队选择了一个极具挑战性的应用场景——高分辨率遥感图像的目标检测,并证实HCBM在该场景下仍然表现出色。这一成果对于遥感、航空航天、国防等对可解释性要求极高的领域具有重要意义,因为在这些领域,模型不仅要准确,还要能够解释其决策依据。

该论文由Clément Bénard及其合作者完成,于2026年5月22日提交至arXiv预印本平台,论文编号为2606.00082,目前可在arXiv上查阅全文。

展开要点与分析

文章情报

工程师进阶

要点

  • 传统概念瓶颈模型(CBM)通过线性聚合概念分数进行预测,但存在可解释性差和信息泄露问题。
  • HCBM采用Hoeffding函数分解和梯度提升树,实现非线性和稀疏的概念聚合,生成简洁预测。
  • 实验表明HCBM对概念间信息泄露具有鲁棒性,并在图像分类和目标检测中超越线性CBM。
  • HCBM特别适用于高分辨率遥感图像的目标检测,展示了其在实际应用中的高性能。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。