現代時間序列預測架構面臨一個基本權衡:通道獨立模型(Channel-Independent)隨着數據量增加而擴展良好,但忽略了關鍵的通道間依賴關係;而通道依賴模型(Channel-Dependent)表達能力強,但受限於維度,難以在異構數據集上泛化。為了彌合這一差距,研究人員提出了Unicorn(Universal Correlation Network,通用相關網絡),這是一個用於高維時間序列可擴展多數據集預訓練的框架。該框架的核心是一個潛在原型碼本(Latent Prototype Codebook),它將相關建模與特定通道身份解耦。通過將異構通道投影到一個共享的潛在空間中,Unicorn學習與身份無關、可重複使用的交互模式,這些模式可以跨不同維度和語義的領域遷移。具體而言,Unicorn不再是直接建模通道間的相關性,而是通過原型碼本捕捉通用的相關模式,從而避免了對特定通道索引的依賴。大量實驗表明,Unicorn顯著優於最先進的預測架構,特別是在少樣本遷移場景中。例如,當目標域只有少量樣本時,Unicorn能夠利用從其他數據集學到的通用相關模式,快速適應新任務。這一優勢為構建多變量時間序列基礎模型提供了一種可擴展的途徑,避免了傳統方法中維度爆炸或泛化能力不足的問題。Unicorn的研究不僅推動了時間序列預測的理論發展,也為實際應用提供了可能。在金融、氣象、能源等領域,高維時間序列數據普遍存在,Unicorn的通用相關建模能力有望顯著提升預測精度和模型適應性。未來工作可能涉及更大規模的預訓練和更復雜的原型機制,以進一步探索其在更廣泛場景中的潛力。
Unicorn:通過通用相關建模擴展高維時間序列預測
文章摘要
Unicorn框架通過潛在原型碼本解耦通道相關性與特定身份,實現跨異構數據集的可擴展預訓練,在少樣本遷移場景中顯著優於現有方法。
Unicorn:通過通用相關建模擴展高維時間序列預測