Toto 2.0：时间序列预测进入缩放时代
Datadog发布了Toto 2.0系列开源时间序列预测模型，参数规模从4M到2.5B。结果表明，随着模型增大，性能持续提升，在BOOM、GIFT-Eval和TIME基准测试中均取得最佳成绩。Toto 2.0相比上一代参数效率提升7倍，推理速度显著加快，且仅使用可观测性和合成数据训练，未使用任何公开数据集，却能在通用基准上领先。
Datadog今日在Hugging Face上发布了Toto 2.0，一个开源的时间序列预测基础模型家族，参数规模从400万到25亿不等。这一系列模型旨在回答一个简单而开放的问题：时间序列基础模型（TSFM）能否随着规模扩大而改进？结果明确显示：可以。
关键结果包括：规模扩展有效——每个规模的模型都在前一基础上有所提升，在25亿参数时未见饱和迹象。在所有测试的基准上都达到同类最佳：Toto 2.0在Datadog的可观测性预测基准BOOM、通用基准GIFT-Eval以及新的抗污染零样本基准TIME上均占据榜首。相比Toto 1.0实现代际跃升：Toto 2.0在同等质量下参数效率提升7倍，推理速度大幅加快。仅使用可观测性和合成数据训练，未接触任何公开预测数据，却在通用基准上领先。
在BOOM基准上，每个Toto 2.0规模都位于帕累托前沿，三个最大规模型号领跑，CRPS排名分别为3.88（2.5B）、3.96（1B）和4.25（313M）。22M型号以5.52的CRPS排名超越Toto 1.0的6.94，实现了7倍的参数效率提升。即使最小的4M型号也以7.17的CRPS排名与Toto 1.0和Chronos-2（7.39）相当，非常适合边缘部署。
在GIFT-Eval基础模型子集上，Toto 2.0三个最大规模的CRPS排名分别为19.5、20.3和20.5，领先于其他所有基础模型。若考虑微调、集成和智能体系统，Toto 2.0集成模型（FnF）和微调后的2.5B模型分别占据排行榜前两位。集成模型中的元学习器软最大权重显示，Toto家族平均贡献了39%的预测，高于其他任何模型。
在TIME基准上，2.5B、313M和1B模型包揽所有指标的前三名，22M模型也在排名指标上位列第五，超越所有前代基础模型。
推理延迟方面，Toto 2.0通过连续补丁掩码（CPM）等改进，实现了单次并行预测，无需逐步自回归生成。对于1024步预测，Toto 1.0需要最多16步，而Toto 2.0只需一次前向传播。与Toto 1.0和Chronos-2相比，每个Toto 2.0规模的延迟都更低。
未来方向包括缩小与经典基线的长期预测差距、数据策展、评估方法以及多模态融合。Toto 2.0模型权重和训练基础设施库（dd_unit_scaling）均已基于Apache 2.0许可开源。