複雑システムにおける長期時系列予測は、データセットレベルの分布シフトによってしばしば精度が低下します。このシフトは、多様な動作モードやシステム状態の変化に起因します。既存手法は局所的な時間シフトに焦点を当てるものが多いですが、データセットが異なる動作レジームの複合体であるという大域的な構造課題を明示的にモデル化していません。
本研究で提案するNESTは、2段階の密な混合エキスパート（MoE）アーキテクチャを採用し、これらの進化する構造をモデル化・再構成します。第一段階では、モーメント・エントロピー空間での教師なしクラスタリングにより、データセットを異なる動作レジームに分割し、構造的特殊化を実現します。第二段階では、レジーム指向のルーター機構を導入します。このルーターは時間コンテンツに基づいて初期エキスパート重みを生成し、その後幾何変調によってレジームの重心に向けて精緻化されます。
重要な点として、個々のエキスパートは単一の予測器として機能するのではなく、特殊なカーネルとして動作し、独自の変数注意パターンを進化させることでレジーム固有のダイナミクスを捕捉します。これにより、エキスパートは特定の動作モードの時間的依存関係を学習することに特化できます。
異種ネットワークトラフィックや物理現象を含む多様なベンチマークでの広範な評価により、NESTが一貫して最先端の性能を達成することが実証されました。コードとデータセットは公開されており（https://github.com/Aaralshin/NEST）、関連分野のさらなる研究を促進します。