本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

EVOTS:時系列予測のための進化的Transformer探索

記事の要約

本論文は、多変量時系列予測のためのタスク適応型Transformer類似モデルを自動発見する進化的ニューラルアーキテクチャ探索フレームワークEVOTSを提案する。注意、フィードフォワード、投影コンポーネントをモジュール型ゲノムで表現し、修復機構で構造の妥当性を保つ。ETT系4データセットで複数の予測設定とホライズン96〜720を評価し、多変量→多変量設定では強力なTransformerベースラインと同等以上の場合があるMSEを達成し、実時間の学習コストも報告している。

ソースarXiv Machine Learning著者: AbdElRahman ElSaid, Damir Pulatov
EVOTS:時系列予測のための進化的Transformer探索
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

EVOTS(Evolutionary Transformer Search for Time Series Forecasting)は、AbdElRahman ElSaid らが2026年6月30日にarXivへ投稿した論文で、識別子は arXiv:2607.00154v1、主分野は機械学習(cs.LG)であり、人工知能(cs.AI)とニューラル・進化計算(cs.NE)にも関連する。本研究は、多変量時系列予測のための進化的なニューラル網絡アーキテクチャ設計という、これまで十分に検討されてこなかった領域に焦点を当てている。著者らは、タスクや予測設定ごとの差が大きいにもかかわらず、多くの既存手法が固定されたTransformerアーキテクチャに依存している点を課題として指摘している。

そこで論文は、タスクに適応したTransformer類似モデルを発見するための進化的ニューラルアーキテクチャ探索フレームワークであるEVOTSを提案する。アーキテクチャはモジュール型のゲノム表現で符号化され、アテンション、フィードフォワード、射影の各コンポーネントを柔軟に組み合わせられる。さらに、進化の過程で構造的な妥当性を常に保つための修復メカニズムを導入している。この定式化により、手作業で設計した規則に頼ることなく、多様なアーキテクチャ空間を効果的に探索できるとしている。

評価にはETTファミリーの4つのベンチマークデータセット(ETTh1、ETTh2、ETTm1、ETTm2)を使用し、単変量から単変量、多変量から単変量、多変量から多変量という複数の予測設定を、96、192、336、720の予測ホライズンで検証している。多変量から多変量の設定では、進化したアーキテクチャが強力なTransformerベースラインと同等、場合によってはそれを上回る平均二乗誤差を達成した。論文ではさらに、予測設定間の性能差を分析し、実時間の学習時間(wall-clock time)を報告することで計算コストの目安を示している。

全体として著者らは、進化的探索が実用的な実行時間の制約内で、多変量時系列予測のための柔軟かつ高性能なTransformer類似アーキテクチャを発見できることを示したと結論づけている。関連DOIとして https://doi.org/10.1145/3795095.3805078 が示され、投稿時のファイルサイズは約424 KBである。なお、検証はETT系の4データセットと上記のホライズンに限られており、結論の一般性についてはさらなる検証が必要である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • EVOTSはモジュール型ゲノム表現と修復機構により、進化過程で注意・フィードフォワード・投影コンポーネントを柔軟に組み合わせる。
  • ETTh1、ETTh2、ETTm1、ETTm2の4データセットで、単変量→単変量、多変量→単変量、多変量→多変量の設定とホライズン96、192、336、720を評価。
  • 多変量→多変量設定では、進化したアーキテクチャのMSEが強力なTransformerベースラインと同等か、場合によっては改善。
  • 予測設定間の性能差を分析し、実時間の学習時間を報告して計算コストの目安を示す。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。