立场：可解释性研究必须优先关注基础问题而非临时方法
尽管可解释人工智能（XAI）技术层出不穷，从特征归因到稀疏自编码器，但解释很少影响实际工作流程。本文认为，机器学习社区必须从临时性的XAI方法转向解决基础性和结构性的挑战，包括不明确的问题表述、不充分的评估目标以及缺乏解释驱动反馈的流程。通过对近期ICML、NeurIPS和ICLR论文的分析及对XAI从业者的调查，作者揭示了限制累积进展的常见问题，并提出了一个实用清单，旨在将XAI转向更以人为中心、面向行动的模式。
一项由Michal Moshkovitz等10位研究者共同完成的最新研究指出，尽管可解释人工智能（XAI）领域已涌现大量技术——从特征归因到稀疏自编码器——但大多数解释并未在实际工作流程中发挥作用。研究人员表示，这些解释往往被生成后即被丢弃，未能引导有意义的行动。这种脱节反映了基础性缺陷：目前尚未建立将解释集成到端到端人机环系统中的方法。该研究以立场论文形式被ICML 2026录用，并发表在arXiv上。
该论文的核心论点在于，机器学习社区必须从开发临时性的XAI方法转向解决基础性和结构性的挑战。作者团队通过系统分析ICML、NeurIPS和ICLR近年来的相关论文，以及对大量XAI从业者的问卷调查，揭示了阻碍该领域累积进展的三大常见问题：问题表述不明确、评估目标不充分，以及缺乏解释驱动反馈的流程。具体而言，许多研究在定义“解释”的目标时含糊不清，导致评估方法无法反映实际需求；同时，解释很少被设计为可嵌入到实际系统中的反馈环节，从而无法形成改进闭环。
研究者进一步指出，当前的XAI研究过度关注技术新颖性，而忽略了如何将解释整合到实际系统中。例如，许多方法在特定基准数据集上表现良好，但在真实场景中却因缺乏上下文信息或用户理解不足而失效。为此，论文提出了一份实用清单，旨在引导XAI向更以人为中心、面向行动的方向发展。该清单包括：明确解释的目标用户与使用场景、设计可操作的评估指标、建立解释与决策之间的反馈回路，以及确保解释能够根据用户需求动态调整。
通过关注基础性问题的清晰化而非开发更多临时方法，作者期望为将解释融入可操作、反馈驱动的AI系统提供路线图。这一工作对于构建可信、透明且实用的人工智能系统具有重要意义，尤其适用于需要人类监督的关键应用领域。