跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

简单状态空间模型在多变量时间序列分类中表现优异

文章摘要

一项新研究系统比较了对角状态空间模型(S4D)与输入依赖的Mamba架构,发现更简单的S4D在多变量时间序列分类任务上不仅精度更高,而且效率更优,打破了“复杂性越高性能越好”的固有认知。

来源arXiv Machine Learning作者: Hassan Saadatmand, Geoffrey I. Webb, Hamid Rezatofighi, Mahsa Salehi
简单状态空间模型在多变量时间序列分类中表现优异
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

状态空间模型(SSM)近年来成为序列建模的重要基础,尤其是Mamba架构通过输入依赖的状态转移在多项任务中表现突出,但其计算复杂度也显著增加。然而,在时间序列分类(TSC)领域,此前的研究主要集中于Mamba风格的架构,对更广泛的SSM设计空间探索不足。为此,来自莫纳什大学等机构的研究人员首次对对角SSM(S4D)和输入依赖SSM(Mamba家族)在大规模TSC基准上进行了系统性对比研究,旨在回答一个关键问题:在TSC任务中,这种复杂性是否必要?

研究结果令人意外:在准确性和效率两个维度上,S4D均稳定优于基于Mamba的变体。这一发现挑战了“增加模型复杂度必然带来性能提升”的普遍假设。研究人员进一步提出了两种轻量级改进方案:MS4和MS4N。MS4通过线性输入投影和通道混合机制对S4D进行增强;MS4N则在此基础上引入归一化,以稳定状态动态,且额外开销几乎可以忽略。

为了验证方法的有效性,研究团队在59个数据集上进行了广泛实验,涵盖MONSTER基准(最大包含6000万样本、5万时间步、82个类别)和UEA基准,并与15个基线模型进行了比较。结果表明,MS4和MS4N在性能上持续超越Mamba类模型,同时保持更高的效率。尤其值得注意的是,MS4N在参数量仅为竞争对手二分之一甚至十分之一的情况下,性能仍可匹配或超越那些更庞大的深度学习模型。

这些发现为时间序列分类提供了一条新思路:轻量级结构化SSM可能比单纯增加模型复杂性更具优势。该研究不仅揭示了S4D在TSC任务中的潜力,也为未来高效序列模型的设计提供了重要参考。论文标题为《A Simple State Space Model Excels at Multivariate Time Series Classification》,于2026年5月7日提交至arXiv,作者包括Hassan Saadatmand、Geoffrey I. Webb、Hamid Rezatofighi和Mahsa Salehi。

展开要点与分析

文章情报

研究者进阶

要点

  • S4D在精度和效率上均超越Mamba变体
  • MS4和MS4N通过轻量修改进一步提升性能
  • 在59个数据集上验证,参数效率显著优于大型模型

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。