跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

TTCD:基於Transformer的非平穩時間序列時序因果發現

文章摘要

針對非平穩、非線性、含噪聲的複雜時間序列,提出TTCD框架,利用Transformer整合和非平穩特徵學習器,透過重建引導的因果訊號蒸餾實現端到端因果發現,在合成和真實資料集上超越現有方法。

來源arXiv Machine Learning作者: Omar Faruque, Sahara Ali, Xue Zheng, Jianwu Wang
TTCD:基於Transformer的非平穩時間序列時序因果發現
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,來自Omar Faruque等學者的研究團隊在arXiv上釋出了一項新工作,提出了名為TTCD(Transformer Integrated Temporal Causal Discovery)的框架,用於從非平穩時間序列資料中學習因果結構。該研究針對環境科學、流行病學、經濟學等領域中普遍存在的複雜時間序列資料,這些資料往往具有非平穩性、非線性和噪聲干擾,給因果發現帶來了巨大挑戰。

傳統的因果發現方法主要分為兩類:基於約束的方法和基於評分的方法。基於約束的方法依賴條件獨立性檢驗,但在有限樣本和複雜分佈下效能退化嚴重;基於評分的方法則施加了較強的統計假設,難以適用於真實世界的複雜場景。近期的一些方法雖然能夠處理變化點檢測或分佈偏移等特殊情況,但缺乏統一的解決方案。

TTCD框架的核心是一個端到端模型,包含兩個主要元件:非平穩特徵學習器(Non-Stationary Feature Learner)和因果結構學習器(Causal Structure Learner)。非平穩特徵學習器創新性地融合了時間域和頻率域的注意力機制,並結合動態非平穩性分析,能夠有效提取時序特徵中的關鍵資訊。該框架的關鍵創新在於重建引導的因果訊號蒸餾(Reconstruction-guided Causal Signal Distillation):透過Transformer解碼器的重建過程,蒸餾出關鍵的因果訊號,同時抑制噪聲和虛假相關,保留有意義的依賴關係。隨後,因果結構學習器基於這些蒸餾後的訊號推斷因果圖,無需對噪聲分佈或資料生成過程做出嚴格的假設。

實驗部分,研究團隊在合成資料、基準資料集以及真實世界資料集上進行了全面評估。結果表明,TTCD在因果結構的準確性和與領域知識的一致性方面均持續優於現有的最先進基線方法。具體來說,在合成資料上,TTCD能夠準確恢復出預設的因果圖;在基準資料集(如Synthetic、Sigmoid等)上,其效能顯著領先;在真實世界的環境監測和流行病資料上,TTCD發現的因果關係與已有領域知識高度吻合。

該工作的意義在於為複雜實際場景下的因果發現提供了有效工具,有望推動環境科學、流行病學、經濟學等領域的研究進展。TTCD的端到端特性和對非平穩資料的適應能力使其具有廣泛的應用前景。目前,該論文已公開在arXiv上,並提供PDF全文供研究者參考。

展開要點與分析

文章情報

研究者進階

要點

  • 提出TTCD框架,一種端到端的非平穩時間序列因果發現方法。
  • 創新點包括非平穩特徵學習器和重建引導的因果訊號蒸餾。
  • 在合成、基準和真實資料集上優於現有基線方法。
  • 無需對噪聲分佈或資料生成過程做嚴格假設。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。