状态空间模型(SSM)近年来成为序列建模的重要基础,尤其是Mamba架构通过输入依赖的状态转移在多项任务中表现突出,但其计算复杂度也显著增加。然而,在时间序列分类(TSC)领域,此前的研究主要集中于Mamba风格的架构,对更广泛的SSM设计空间探索不足。为此,来自莫纳什大学等机构的研究人员首次对对角SSM(S4D)和输入依赖SSM(Mamba家族)在大规模TSC基准上进行了系统性对比研究,旨在回答一个关键问题:在TSC任务中,这种复杂性是否必要?
研究结果令人意外:在准确性和效率两个维度上,S4D均稳定优于基于Mamba的变体。这一发现挑战了“增加模型复杂度必然带来性能提升”的普遍假设。研究人员进一步提出了两种轻量级改进方案:MS4和MS4N。MS4通过线性输入投影和通道混合机制对S4D进行增强;MS4N则在此基础上引入归一化,以稳定状态动态,且额外开销几乎可以忽略。
为了验证方法的有效性,研究团队在59个数据集上进行了广泛实验,涵盖MONSTER基准(最大包含6000万样本、5万时间步、82个类别)和UEA基准,并与15个基线模型进行了比较。结果表明,MS4和MS4N在性能上持续超越Mamba类模型,同时保持更高的效率。尤其值得注意的是,MS4N在参数量仅为竞争对手二分之一甚至十分之一的情况下,性能仍可匹配或超越那些更庞大的深度学习模型。
这些发现为时间序列分类提供了一条新思路:轻量级结构化SSM可能比单纯增加模型复杂性更具优势。该研究不仅揭示了S4D在TSC任务中的潜力,也为未来高效序列模型的设计提供了重要参考。论文标题为《A Simple State Space Model Excels at Multivariate Time Series Classification》,于2026年5月7日提交至arXiv,作者包括Hassan Saadatmand、Geoffrey I. Webb、Hamid Rezatofighi和Mahsa Salehi。