这篇提交于2026年6月23日的arXiv论文《Few-class Fidelity: Evaluating Explanations of Real-conditions CNN classifiers with Optimized Perturbations》（少类别保真度：用优化扰动评估真实条件下CNN分类器的解释），由Wistan Marchadour等四位作者完成，归类于计算机视觉与模式识别（cs.CV），并交叉关联人工智能（cs.AI）领域。论文关注卷积神经网络在众多行业与真实分类任务中被广泛采用的背景下，如何借助可解释人工智能（XAI）技术理解模型、避免部署偏差，并解决XAI方法之间比较标准分歧、评估难以达成共识的问题。
卷积神经网络凭借高精度和自动化速度，被越来越多地用于现实世界的分类应用，从而让使用者能够把精力集中到需要更高专业能力的任务上。然而模型一旦投入部署，其内部决策依据往往不透明，可能带来隐性偏见。为此，研究者通常在训练完成后引入可解释人工智能技术，以揭示模型做出判断的依据。但随着XAI方案数量迅速扩张，不同方法之间的横向比较越来越分散，学界至今未能就如何评估这些解释的可靠性形成一致标准。
针对这一空白，作者提出了一种基于保真度（Fidelity）的XAI度量变体，专门面向真实条件下的应用场景。这类场景的一个显著特点是类别数量往往较少，即所谓“少类别”设定，与学术基准中常见的多类别大规模数据集存在明显差异。该方法通过生成符合数据分布（in-distribution）、能够激发模型不确定性的扰动样本，来更准确地衡量各种XAI方法对模型决策的忠实程度，避免因扰动偏离真实数据分布而导致评估失真。
为展示该评估框架的实用价值，论文将其与以人为中心的目标定位和分割指标进行了对比。这些指标侧重人类对图像中关键区域的直观判断，而保真度指标则直接考察解释对模型输出的实际影响，两者的对照有助于更全面地理解解释质量的多个维度。作者随后将该框架同时应用于医学影像和自然图像两类应用，覆盖了从临床诊断辅助到日常视觉识别的不同需求。
实验结果显示，领域特性、数据整理方式以及XAI方案的选择之间存在错综复杂的关联。换言之，同一种解释方法在不同领域和数据条件下表现可能差异显著，不存在放之四海而皆准的最优解。作者因此强调，在验证一个新训练的CNN模型时，必须结合具体领域与数据策划情况来挑选和评估解释方法。该论文的贡献在于为真实少类别场景提供了一套可操作的XAI评估工具，并提示研究者和工程实践者在部署前应重视领域相关的解释验证流程。论文全文以PDF及实验性HTML形式发布于arXiv，DOI为10.48550/arXiv.2606.28391。