跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

Hoeffding概念瓶頸模型及其在遙感圖像中的應用

文章摘要

Hoeffding概念瓶頸模型(HCBM)利用梯度提升樹的Hoeffding函數分解,提供非線性且稀疏的概念分數聚合,增強可解釋性,在分類和目標檢測任務中表現優於傳統線性CBM。

來源arXiv Machine Learning作者: Cl\'ement B\'enard, Manon Arfib, Christophe Labreuche, Victor Qu\'etu
Hoeffding概念瓶頸模型及其在遙感圖像中的應用
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在深度學習中,可解釋性對於高風險決策領域的應用至關重要。概念瓶頸模型(CBM)通過引入一個由高層概念組成的瓶頸層,在保持預測準確性的同時提供一定程度的可解釋性。然而,現有的CBM方法大多采用線性方式聚合概念分數來得出最終預測。這種線性聚合方式存在兩個主要缺陷:首先,當使用大量概念時,解釋性會被削弱,因為用户難以理解眾多概念的線性組合;其次,線性組合容易導致信息泄露,即某些概念可能泄露其他概念的信息,使得預測不再基於純粹的概念語義。實際上,概念與輸出對數幾率之間的關係通常是非線性的,線性假設過於簡化。

為了解決這些問題,來自法國的研究團隊提出了Hoeffding概念瓶頸模型(HCBM)。HCBM的核心創新在於利用Hoeffding函數分解對梯度提升樹進行分解,從而將預測表達為各概念的非線性貢獻之和。這種分解不僅能夠捕捉概念與輸出之間的非線性關係,而且通過稀疏化處理,只選擇少數幾個重要概念進行預測,從而極大地增強了模型的解釋性。此外,HCBM採用素藴含項(prime implicants)來生成最終預測,使得決策過程更加透明和可理解。

理論分析證明,HCBM對概念間的信息泄露具有魯棒性,這意味着即使不同概念之間存在相關性,HCBM也能保持預測的可靠性和可解釋性。在多個標準圖像分類數據集上的實驗表明,HCBM在分類準確率上與線性CBM相當甚至更優,同時在可解釋性指標上顯著領先。更令人印象深刻的是,HCBM可以無縫擴展到目標檢測任務。研究團隊選擇了一個極具挑戰性的應用場景——高分辨率遙感圖像的目標檢測,並證實HCBM在該場景下仍然表現出色。這一成果對於遙感、航空航天、國防等對可解釋性要求極高的領域具有重要意義,因為在這些領域,模型不僅要準確,還要能夠解釋其決策依據。

該論文由Clément Bénard及其合作者完成,於2026年5月22日提交至arXiv預印本平台,論文編號為2606.00082,目前可在arXiv上查閲全文。

展開要點與分析

文章情報

工程師進階

要點

  • 傳統概念瓶頸模型(CBM)通過線性聚合概念分數進行預測,但存在可解釋性差和信息泄露問題。
  • HCBM採用Hoeffding函數分解和梯度提升樹,實現非線性和稀疏的概念聚合,生成簡潔預測。
  • 實驗表明HCBM對概念間信息泄露具有魯棒性,並在圖像分類和目標檢測中超越線性CBM。
  • HCBM特別適用於高分辨率遙感圖像的目標檢測,展示了其在實際應用中的高性能。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。