深度神經網絡（DNN）在計算機視覺、自然語言處理等領域的廣泛應用，使得其可靠性成為關鍵問題。DNN故障檢測旨在識別導致模型性能下降的錯誤輸入或內部狀態，近年來受到越來越多研究者的關注。儘管已有方法通過結合多種信息源（如模型輸出、中間特徵等）提升了檢測性能，但它們往往依賴複雜的混合架構，帶來高昂的計算開銷，限制了在實際系統中的可擴展性和部署效率。
針對這一挑戰，來自多所機構的研究人員提出了一種名為“概念感知故障檢測”（Concept-Aware Fault Detection，CAFD）的新型學習型方法。CAFD的核心思想是整合三類互補的特徵：基於DNN輸出的模型信號、距離特徵，以及一項創新的概念級特徵——概念失敗比（Concept Failure Ratio，CFR）。CFR利用先進的視覺-語言模型（VLM）從輸入圖像中提取相關的文本概念，並量化這些概念的存在與DNN故障之間的關聯概率。通過引入這一語義層面的信息，CAFD能夠從更豐富的角度捕捉故障模式，從而實現更精準的檢測。
研究團隊在三個具有代表性的DNN模型和數據集（包括ImageNet）上進行了全面的實驗評估。他們將CAFD與五種最先進的基線方法進行了對比，覆蓋了不同的受限選擇預算場景。實驗結果表明，CAFD在所有測試場景中均取得了最高的故障檢測率（Fault Detection Rate，FDR），平均FDR提升達到18.3%。特別是在預算緊張的情況下，CAFD的優勢更加明顯，充分驗證了其效率與效果的平衡。
CAFD的提出不僅為DNN故障檢測提供了一種新的思路，還展示了視覺-語言模型在該領域的巨大潛力。未來，研究團隊計劃進一步探索如何將CAFD擴展到更復雜的模型架構和在線應用場景中，以及如何與模型自適應機制相結合，實現更全面的可信DNN系統。