持續學習在時間序列預測中的可解釋性挑戰

一篇新的研究論文《持續學習在時間序列預測中的可解釋性挑戰》探討了如何利用可解釋性來理解自適應時間序列預測中的持續學習行為。該研究由法國圖盧茲計算機科學研究所（IRIT）的Quentin Besnard等六位作者共同完成，已被EDBT/ICDT 2026聯合會議接收，並發表在arXiv預印本平台上。

深度學習模型在時間序列預測方面展現出巨大潛力，但在實際環境監測等應用場景中，非平穩動態和有限的可解釋性成為主要障礙。非平穩性意味着數據分佈隨時間變化，這要求模型具備持續適應能力。傳統的機器學習方法通常假設數據獨立同分布，難以應對環境中的動態變化。持續學習通過不斷吸收新數據並保留過往知識，為解決這一難題提供了新思路。然而，持續學習過程中的模型行為往往難以解釋，特別是在採用經驗回放策略時，如何選擇回放數據、模型如何調整權重建模都缺乏透明性。

本研究將可解釋性視為理解持續學習機制的核心工具。研究團隊選取了三種代表性的時間序列預測架構：PatchMixer、PatchTST和DLinear。這些模型在時間序列預測領域表現出色，但大多被當作黑箱使用。研究者為這些模型引入了基於注意力的採樣機制，以支持模型隨時間進行適應性更新。為了揭示模型的內部決策過程，他們採用了兩種主流解釋方法：注意力展開（Attention Rollout）和梯度加權類激活映射（Grad-CAM）。注意力展開能夠可視化模型對輸入序列不同部分的關注程度，而Grad-CAM則提供基於梯度的歸因圖，顯示哪些時間步長對預測結果貢獻最大。

實驗基於真實世界的地下水水位時間序列數據，這些數據呈現異質性模式和區域轉移，非常適合測試模型在非平穩環境下的表現。通過分析模型在不同時間點的解釋性圖譜，研究人員發現可解釋性不僅可以揭示預測行為的動態變化，還能為採樣策略的優化提供依據。例如，某些階段模型可能過度依賴近期數據而忽略長期趨勢，而Grad-CAM熱圖則能清晰顯示這種偏差，從而指導更均衡的數據選擇。

研究的主要結論包括：第一，可解釋性方法能夠有效捕捉持續學習過程中模型行為的變化軌跡，幫助理解模型如何適應新的數據分佈；第二，歸因模式隨時間演變，這為動態調整學習策略提供了參考；第三，結合可解釋性分析的數據選擇方法有望提升模型在非平穩場景下的魯棒性。然而，研究也指出當前可解釋性方法在計算效率和穩定性方面的侷限，以及如何將解釋結果轉化為具體的模型改進措施仍待進一步探索。

該工作強調了可解釋性在持續學習系統中的重要地位，不僅為了理解模型，更是為了指導模型設計和數據管理。在AI系統越來越多地部署於動態環境（如氣候監測、金融市場）的當下，這一研究方向具有重要的實踐意義。未來的工作可能包括將可解釋性直接納入訓練損失函數，或開發更高效的歸因方法以支持實時解釋。