近年来，深度神经网络（DNN）的故障检测问题受到越来越多关注。随着DNN被部署到自动驾驶、医疗影像、工业质检等高风险场景，如何在其运行过程中及时发现输出错误，已成为可靠性与安全研究中的关键课题。然而，现有研究在追求更高检测精度的同时，往往需要付出可观的代价。
论文指出，较早期的故障检测方法多依赖单一信息来源，例如仅观察模型输出的置信度或中间层激活；而后来的混合方法虽然通过组合多种信息源提升了检测效果，却常常引入大量计算开销，从而限制了其在真实环境中的可扩展性和实用性。这一矛盾正是CAFD试图解决的核心问题：如何在整合多源信息、保持检测优势的同时，让方法本身足够轻量、可落地。
为此，作者提出了概念感知故障检测方法（Concept-Aware Fault Detection，CAFD）。这是一种基于学习的方法，其关键设计在于使用一组经过精心筛选的信息性特征来训练故障检测器。这些特征包括三类：第一类是由DNN自身输出推导出的模型信号，用于刻画模型对当前输入的响应状态；第二类是距离类特征，反映输入或表示在特征空间中的位置关系；第三类则是本文提出的新特征——概念失败比率（Concept Failure Ratio，CFR）。
CFR的设计思路颇具新意。它借助视觉-语言模型（VLM）从图像中提取文本化的概念描述，例如图像中出现的物体、场景或属性，并进一步量化这些概念的出现与DNN发生故障之间的关联概率。换言之，CFR并不直接观察模型的内部数值，而是从语义层面判断“当前图像包含哪些概念”，以及“这些概念在历史上是否更容易导致模型出错”。通过引入这一特征，CAFD得以利用与模型数值信号互补的语义信息，从而提升故障检测的整体效果。实验结果也表明，CFR确实是一个有效的DNN故障检测指标。
在实验部分，作者对CAFD进行了较为广泛的实证评估。评估覆盖三个被测DNN模型及其对应数据集，其中包含ImageNet这一大规模图像识别基准。对比对象为五种当前最先进的基线方法。研究重点考察了在不同选择预算约束下的检测表现，即在只能检查有限数量样本的条件下，方法能否尽可能多地找出故障样本。
结果显示，在多种受限的选择预算设置下，CAFD在故障检测率（Fault Detection Rate，FDR）上始终优于所有基线方法。综合所有被测对象与预算规模，CAFD的平均FDR提升达到18.3%。这一结果说明，将来自VLM的语义概念信息与模型信号、距离特征相结合，能够在不显著增加计算负担的前提下带来稳定且可观的检测收益。
从更广的意义上看，该工作展示了视觉-语言模型在DNN质量保障与测试领域的一种新用途：VLM不再只是生成或理解图像的工具，还可以作为语义层面的“探针”，帮助测试人员理解模型在何种视觉概念下更易失效。论文同时指出，其方法在效率与性能之间取得了平衡，这与以往混合方法因开销过大而难以实用的困境形成对照。该论文于2026年5月19日提交至arXiv，编号为2605.24008，作者为Amin Abbasishahkoo等三人，主题涉及机器学习、计算机视觉与模式识别以及软件工程等方向。