跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

EVOTS:面向时间序列预测的进化式 Transformer 搜索

文章摘要

这篇论文提出 EVOTS,一个用进化神经架构搜索为多变量时间序列预测自动发现任务自适应 Transformer 类模型的框架。它采用模块化基因组编码注意力、前馈和投影组件,并通过修复机制保证结构合法,在 ETT 系列四个数据集、多种预测设置和 96 至 720 的预测步长上取得与强 Transformer 基线相当甚至更优的 MSE,同时报告了实际训练耗时。

来源arXiv Machine Learning作者: AbdElRahman ElSaid, Damir Pulatov
EVOTS:面向时间序列预测的进化式 Transformer 搜索
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

EVOTS(Evolutionary Transformer Search for Time Series Forecasting)是 AbdElRahman ElSaid 等作者于 2026 年 6 月 30 日提交到 arXiv 的一篇论文,编号 arXiv:2607.00154v1,归类为机器学习(cs.LG),同时涉及人工智能(cs.AI)与神经与进化计算(cs.NE)。该研究关注一个相对少有人深入的方向:面向多变量时间序列预测的进化式神经网络架构设计。作者指出,尽管不同任务和预测设定之间差异明显,现有大多数方法仍依赖固定的 Transformer 架构,缺乏针对具体任务自动调整结构的能力。

为此,论文提出了 EVOTS 框架,用进化式神经架构搜索来发现可适配任务的 Transformer 类模型。其核心思路是把架构编码为模块化的“基因组”表示,使注意力模块、前馈模块和投影模块能够灵活组合。搜索过程中,作者引入了修复机制,在进化操作之后强制保证结构合法,从而避免生成无效架构。正是这种表示与修复机制的结合,使方法能够在不需要人工设计规则的前提下,有效探索多样化的架构空间。

实验部分使用 ETT 系列的四个基准数据集:ETTh1、ETTh2、ETTm1 和 ETTm2,并覆盖多种预测设定,包括单变量到单变量、多变量到单变量以及多变量到多变量预测,预测步长分别为 96、192、336 和 720。在多变量到多变量设定下,进化得到的架构取得了与强 Transformer 基线相当的效果,并在若干情形下实现了更低的均方误差。论文还分析了不同预测设定之间的性能差异,并报告了实际训练耗时(wall-clock time),以粗略反映计算成本。

整体而言,作者认为结果说明进化搜索能够在实际可接受的运行时间约束内,为多变量时间序列预测发现灵活且高性能的 Transformer 类架构。论文同时给出了 arXiv DOI(https://doi.org/10.1145/3795095.3805078 为相关 DOI),提交时文件大小约 424 KB。需要说明的是,论文的验证范围限于 ETT 系列四个数据集和上述预测步长,结论的普适性仍有待在更多数据与场景中检验。

展开要点与分析

文章情报

工程师进阶

要点

  • EVOTS 用模块化基因组表示和修复机制,在进化过程中灵活组合注意力、前馈与投影组件。
  • 在 ETTh1、ETTh2、ETTm1、ETTm2 上覆盖单变量到单变量、多变量到单变量、多变量到多变量三类设置,预测步长为 96、192、336、720。
  • 多变量到多变量设置下,进化得到的架构 MSE 与强 Transformer 基线相当,部分情况更优。
  • 论文还分析了不同预测设置下的性能差异,并报告墙钟训练时间以粗略反映计算成本。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。