现实中的科学机器学习：结构先验何时有帮助、何时有害的诊断研究
一项新研究以宏观经济预测为压力测试，评估了五种模型家族（ARIMA、LSTM、NODE、PINN、UDE）在23个国家稀疏年度数据上的表现。结果显示，没有任何模型能持续取得强劲预测性能，但较少受约束的模型（ARIMA、NODE）始终优于受约束的启发式先验模型（PINN、UDE）。研究认为结构先验在数据生成过程不匹配时可能成为错误正则化器，并识别了先验错位、制度变迁、结构断裂和优化不稳定等失败模式。
近日，一篇发表在arXiv上的研究论文对科学机器学习（Scientific Machine Learning, SciML）方法在实际应用中的有效性进行了系统诊断。该研究聚焦于当结构先验假设被违反时SciML模型的表现。SciML方法，如神经常微分方程（NODE）、物理信息神经网络（PINN）和通用微分方程（UDE），通常在结构先验能够准确反映控制动态时表现优异。然而，在许多现实世界中，这种假设可能不成立。
为了探究这种情况，研究团队选择宏观经济预测作为压力测试领域。他们评估了五个模型家族：ARIMA、LSTM、NODE、PINN和UDE，使用了来自23个国家的稀疏年度数据，并采用了多个时间划分和五个随机种子来确保结果的稳健性。结果显示，没有任何一个模型能够持续实现强劲的预测性能，这突显了低频宏观经济预测的固有难度。尽管如此，一个清晰的相对层级浮出水面：较少受约束的模型，尤其是ARIMA和NODE，始终优于更多受约束的启发式先验模型，如PINN和UDE。
研究团队并未将此结果视为对SciML的否定，而是将其解释为一种诊断结果。他们认为，结构先验在数据生成过程（DGP）不匹配时，会充当“错误正则化器”（misregularizer），从而损害模型性能。具体来说，当先验假设与真实动态不一致时，它们会以错误的方式约束模型，导致预测能力下降。研究还识别了多种失败模式，包括先验错位（prior misalignment）、制度变迁（regime shifts）、结构断裂（structural breaks）和优化不稳定（optimization instability）。
基于这些发现，研究建议SciML从业者不应默认“更多结构必然有益”，而是应当在应用中系统性地测试结构先验是否真正有助于提升性能。这一结论对于将SciML应用于经济预测、气候建模等复杂现实系统具有重要指导意义。