在深度學習中,可解釋性對於高風險決策領域的應用至關重要。概念瓶頸模型(CBM)通過引入一個由高層概念組成的瓶頸層,在保持預測準確性的同時提供一定程度的可解釋性。然而,現有的CBM方法大多采用線性方式聚合概念分數來得出最終預測。這種線性聚合方式存在兩個主要缺陷:首先,當使用大量概念時,解釋性會被削弱,因為用户難以理解眾多概念的線性組合;其次,線性組合容易導致信息泄露,即某些概念可能泄露其他概念的信息,使得預測不再基於純粹的概念語義。實際上,概念與輸出對數幾率之間的關係通常是非線性的,線性假設過於簡化。
為了解決這些問題,來自法國的研究團隊提出了Hoeffding概念瓶頸模型(HCBM)。HCBM的核心創新在於利用Hoeffding函數分解對梯度提升樹進行分解,從而將預測表達為各概念的非線性貢獻之和。這種分解不僅能夠捕捉概念與輸出之間的非線性關係,而且通過稀疏化處理,只選擇少數幾個重要概念進行預測,從而極大地增強了模型的解釋性。此外,HCBM採用素藴含項(prime implicants)來生成最終預測,使得決策過程更加透明和可理解。
理論分析證明,HCBM對概念間的信息泄露具有魯棒性,這意味着即使不同概念之間存在相關性,HCBM也能保持預測的可靠性和可解釋性。在多個標準圖像分類數據集上的實驗表明,HCBM在分類準確率上與線性CBM相當甚至更優,同時在可解釋性指標上顯著領先。更令人印象深刻的是,HCBM可以無縫擴展到目標檢測任務。研究團隊選擇了一個極具挑戰性的應用場景——高分辨率遙感圖像的目標檢測,並證實HCBM在該場景下仍然表現出色。這一成果對於遙感、航空航天、國防等對可解釋性要求極高的領域具有重要意義,因為在這些領域,模型不僅要準確,還要能夠解釋其決策依據。
該論文由Clément Bénard及其合作者完成,於2026年5月22日提交至arXiv預印本平台,論文編號為2606.00082,目前可在arXiv上查閲全文。