現實中的科學機器學習：結構先驗何時有幫助、何時有害的診斷研究
一項新研究以宏觀經濟預測為壓力測試，評估了五種模型家族（ARIMA、LSTM、NODE、PINN、UDE）在23個國家稀疏年度資料上的表現。結果顯示，沒有任何模型能持續取得強勁預測效能，但較少受約束的模型（ARIMA、NODE）始終優於受約束的啟發式先驗模型（PINN、UDE）。研究認為結構先驗在資料生成過程不匹配時可能成為錯誤正則化器，並識別了先驗錯位、制度變遷、結構斷裂和最佳化不穩定等失敗模式。
近日，一篇發表在arXiv上的研究論文對科學機器學習（Scientific Machine Learning, SciML）方法在實際應用中的有效性進行了系統診斷。該研究聚焦於當結構先驗假設被違反時SciML模型的表現。SciML方法，如神經常微分方程（NODE）、物理資訊神經網路（PINN）和通用微分方程（UDE），通常在結構先驗能夠準確反映控制動態時表現優異。然而，在許多現實世界中，這種假設可能不成立。
為了探究這種情況，研究團隊選擇宏觀經濟預測作為壓力測試領域。他們評估了五個模型家族：ARIMA、LSTM、NODE、PINN和UDE，使用了來自23個國家的稀疏年度資料，並採用了多個時間劃分和五個隨機種子來確保結果的穩健性。結果顯示，沒有任何一個模型能夠持續實現強勁的預測效能，這突顯了低頻宏觀經濟預測的固有難度。儘管如此，一個清晰的相對層級浮出水面：較少受約束的模型，尤其是ARIMA和NODE，始終優於更多受約束的啟發式先驗模型，如PINN和UDE。
研究團隊並未將此結果視為對SciML的否定，而是將其解釋為一種診斷結果。他們認為，結構先驗在資料生成過程（DGP）不匹配時，會充當“錯誤正則化器”（misregularizer），從而損害模型效能。具體來說，當先驗假設與真實動態不一致時，它們會以錯誤的方式約束模型，導致預測能力下降。研究還識別了多種失敗模式，包括先驗錯位（prior misalignment）、制度變遷（regime shifts）、結構斷裂（structural breaks）和最佳化不穩定（optimization instability）。
基於這些發現，研究建議SciML從業者不應預設“更多結構必然有益”，而是應當在應用中系統性地測試結構先驗是否真正有助於提升效能。這一結論對於將SciML應用於經濟預測、氣候建模等複雜現實系統具有重要指導意義。