近日,來自Omar Faruque等學者的研究團隊在arXiv上釋出了一項新工作,提出了名為TTCD(Transformer Integrated Temporal Causal Discovery)的框架,用於從非平穩時間序列資料中學習因果結構。該研究針對環境科學、流行病學、經濟學等領域中普遍存在的複雜時間序列資料,這些資料往往具有非平穩性、非線性和噪聲干擾,給因果發現帶來了巨大挑戰。
傳統的因果發現方法主要分為兩類:基於約束的方法和基於評分的方法。基於約束的方法依賴條件獨立性檢驗,但在有限樣本和複雜分佈下效能退化嚴重;基於評分的方法則施加了較強的統計假設,難以適用於真實世界的複雜場景。近期的一些方法雖然能夠處理變化點檢測或分佈偏移等特殊情況,但缺乏統一的解決方案。
TTCD框架的核心是一個端到端模型,包含兩個主要元件:非平穩特徵學習器(Non-Stationary Feature Learner)和因果結構學習器(Causal Structure Learner)。非平穩特徵學習器創新性地融合了時間域和頻率域的注意力機制,並結合動態非平穩性分析,能夠有效提取時序特徵中的關鍵資訊。該框架的關鍵創新在於重建引導的因果訊號蒸餾(Reconstruction-guided Causal Signal Distillation):透過Transformer解碼器的重建過程,蒸餾出關鍵的因果訊號,同時抑制噪聲和虛假相關,保留有意義的依賴關係。隨後,因果結構學習器基於這些蒸餾後的訊號推斷因果圖,無需對噪聲分佈或資料生成過程做出嚴格的假設。
實驗部分,研究團隊在合成資料、基準資料集以及真實世界資料集上進行了全面評估。結果表明,TTCD在因果結構的準確性和與領域知識的一致性方面均持續優於現有的最先進基線方法。具體來說,在合成資料上,TTCD能夠準確恢復出預設的因果圖;在基準資料集(如Synthetic、Sigmoid等)上,其效能顯著領先;在真實世界的環境監測和流行病資料上,TTCD發現的因果關係與已有領域知識高度吻合。
該工作的意義在於為複雜實際場景下的因果發現提供了有效工具,有望推動環境科學、流行病學、經濟學等領域的研究進展。TTCD的端到端特性和對非平穩資料的適應能力使其具有廣泛的應用前景。目前,該論文已公開在arXiv上,並提供PDF全文供研究者參考。