持续学习在时间序列预测中的可解释性挑战
该研究探讨了在自适应时间序列预测中，利用可解释性作为理解持续学习的关键工具。通过持续学习和经验回放策略，研究分析了PatchMixer、PatchTST和DLinear等神经预测架构，并采用注意力展开和梯度归因方法（Grad-CAM）来解释预测行为和采样策略。实验基于真实世界的地下水时间序列数据，揭示了可解释性在非平稳预测场景中的挑战和机遇。
一篇新的研究论文《持续学习在时间序列预测中的可解释性挑战》探讨了如何利用可解释性来理解自适应时间序列预测中的持续学习行为。该研究由法国图卢兹计算机科学研究所（IRIT）的Quentin Besnard等六位作者共同完成，已被EDBT/ICDT 2026联合会议接收，并发表在arXiv预印本平台上。
深度学习模型在时间序列预测方面展现出巨大潜力，但在实际环境监测等应用场景中，非平稳动态和有限的可解释性成为主要障碍。非平稳性意味着数据分布随时间变化，这要求模型具备持续适应能力。传统的机器学习方法通常假设数据独立同分布，难以应对环境中的动态变化。持续学习通过不断吸收新数据并保留过往知识，为解决这一难题提供了新思路。然而，持续学习过程中的模型行为往往难以解释，特别是在采用经验回放策略时，如何选择回放数据、模型如何调整权重建模都缺乏透明性。
本研究将可解释性视为理解持续学习机制的核心工具。研究团队选取了三种代表性的时间序列预测架构：PatchMixer、PatchTST和DLinear。这些模型在时间序列预测领域表现出色，但大多被当作黑箱使用。研究者为这些模型引入了基于注意力的采样机制，以支持模型随时间进行适应性更新。为了揭示模型的内部决策过程，他们采用了两种主流解释方法：注意力展开（Attention Rollout）和梯度加权类激活映射（Grad-CAM）。注意力展开能够可视化模型对输入序列不同部分的关注程度，而Grad-CAM则提供基于梯度的归因图，显示哪些时间步长对预测结果贡献最大。
实验基于真实世界的地下水水位时间序列数据，这些数据呈现异质性模式和区域转移，非常适合测试模型在非平稳环境下的表现。通过分析模型在不同时间点的解释性图谱，研究人员发现可解释性不仅可以揭示预测行为的动态变化，还能为采样策略的优化提供依据。例如，某些阶段模型可能过度依赖近期数据而忽略长期趋势，而Grad-CAM热图则能清晰显示这种偏差，从而指导更均衡的数据选择。
研究的主要结论包括：第一，可解释性方法能够有效捕捉持续学习过程中模型行为的变化轨迹，帮助理解模型如何适应新的数据分布；第二，归因模式随时间演变，这为动态调整学习策略提供了参考；第三，结合可解释性分析的数据选择方法有望提升模型在非平稳场景下的鲁棒性。然而，研究也指出当前可解释性方法在计算效率和稳定性方面的局限，以及如何将解释结果转化为具体的模型改进措施仍待进一步探索。
该工作强调了可解释性在持续学习系统中的重要地位，不仅为了理解模型，更是为了指导模型设计和数据管理。在AI系统越来越多地部署于动态环境（如气候监测、金融市场）的当下，这一研究方向具有重要的实践意义。未来的工作可能包括将可解释性直接纳入训练损失函数，或开发更高效的归因方法以支持实时解释。