最近、Omar Faruque氏らによる研究チームが、非定常時系列データから因果構造を学習する新しいフレームワーク「TTCD（Transformer Integrated Temporal Causal Discovery）」を提案し、arXivで公開しました。この研究は、環境科学、疫学、経済学などの分野で広く見られる複雑な時系列データを対象としており、これらのデータは非定常性、非線形性、ノイズを含むため、因果発見には大きな課題があります。
従来の因果発見手法は、制約ベースとスコアベースの2つに大別されます。制約ベースの手法は条件付き独立検定に依存しますが、限られたデータサンプルや複雑な分布では性能が低下します。スコアベースの手法は強い統計的仮定を課すため、実世界の複雑なシナリオには適用が困難です。最近の手法は変化点検出や分布シフトなどの特殊なケースに対応できますが、統一的な解決策には至っていません。
TTCDフレームワークは、エンドツーエンドのモデルであり、非定常特徴学習器（Non-Stationary Feature Learner）と因果構造学習器（Causal Structure Learner）の2つの主要コンポーネントから構成されます。非定常特徴学習器は、時間領域と周波数領域のアテンション機構を統合し、動的非定常性プロファイリングを組み合わせることで、時系列特徴から重要な情報を効果的に抽出します。このフレームワークの鍵となる革新は、再構成ガイド付き因果信号蒸留（Reconstruction-guided Causal Signal Distillation）です。Transformerデコーダの再構成プロセスを通じて、本質的な因果信号を蒸留し、ノイズや偽の相関を抑制しながら、意味のある依存関係を保持します。その後、因果構造学習器は蒸留された再構成信号に基づいて因果グラフを推定します。この手法は、ノイズ分布やデータ生成過程に関する制約的な仮定を一切必要としません。
実験では、合成データ、ベンチマークデータ、実世界データの3種類を用いて評価が行われました。合成データでは、TTCDは事前に設定された因果グラフを正確に再現し、既存手法を大幅に上回る精度を示しました。ベンチマークデータ（Synthetic、Sigmoidなど）でも一貫して最先端の性能を達成しました。さらに、実世界の環境モニタリングデータや疫学データにおいて、TTCDが発見した因果関係はドメイン知識と高い整合性を示し、その実用性が実証されました。
この研究の意義は、複雑な実世界シナリオにおける因果発見のための効果的なツールを提供した点にあります。TTCDのエンドツーエンドの特性と非定常データへの適応能力は、環境科学、疫学、経済学などの分野での応用が期待されます。現在、論文はarXivで公開されており、研究者はPDF全文を参照することができます。