AI News HubLIVE
站內改寫1 分鐘閱讀

守恆定律何時能在學習表示中存活?潛在世界模型的認證視野

本研究探討了一個表示學習問題:物理世界模型在學習潛在表示後,守恆定律是否仍可被認證。作者提出“認證視野”的概念,即從可測量的模型缺陷出發,預先保證模擬軌跡在物理不變量水平集上保持的步數。核心創新在於認證對象是解碼後的物理不變量,而非學習到的潛在哈密頓量或標量見證。通過分解表示、讀出和潛在動力學缺陷的預算,並引入單調對齊橋,該框架在保守系統上進行了測試,發現不同的幾何先驗表現各異:硬規範辛結構在已知相座標下視野最長,但無法跨越學習圖表;而受控Lipschitz對齊的軟不變量在學習表示設置中表現良好。像素認證可在讀出穩定的子管道中恢復,開普勒問題則暴露了幾何邊界。

來源arXiv Machine Learning作者: Hongbo Wang

arXiv上發表的一篇新論文《When Do Conservation Laws Survive Learned Representations? Certified Horizons for Latent World Models》深入探討了物理世界模型中的一個關鍵問題:當模型學習潛在表示後,守恆定律是否仍然可以被認證?該研究由Hongbo Wang撰寫,提出了“認證視野”(certified horizon)這一概念,為潛在世界模型的可靠性提供了新的理論保證。

在物理模擬中,守恆定律(如能量守恆、動量守恆)是確保模型物理一致性的基礎。然而,當模型採用深度學習技術從數據中學習潛在表示時,這些物理不變量可能會被破壞。傳統的做法是嘗試學習一個潛在的哈密頓量或標量見證,但論文指出,即使這些量被模型保守,真正的物理能量仍可能漂移。因此,作者提出了一種新方法:認證解碼後的物理不變量,即通過解碼潛在狀態並評估已知的不變量來獲得可靠的保真度。

圍繞這一對象,論文推導了“殼-視野證書”(shell-horizon certificates),其預算分解為表示缺陷、讀出缺陷和潛在動力學缺陷三個部分。通過引入單調對齊橋(monotone alignment bridge),一個軟學習見證可以為解碼後的不變量提供認證視野。研究在狀態觀測、學習提升觀測和像素觀測多種場景下對保守系統進行了測試。

實驗結果揭示了不同幾何先驗的顯著差異:硬規範辛結構(hard canonical symplectic structure)在已知相座標下提供了最長的視野,但無法跨越學習得到的圖表(chart);而受控Lipschitz對齊的軟不變量(controlled-Lipschitz-aligned soft invariant)在學習表示設置中表現穩健。像素認證可在讀出穩定的子管道(sub-tube)中恢復。此外,開普勒問題暴露了幾何邊界,表明某些守恆定律在特定表示下可能無法被認證。

論文強調,核心對象並非潛在哈密頓量,而是解碼後的物理不變量,其對錶示學習的魯棒性可以被測量、認證和證偽。這一工作為潛在世界模型的安全性和可靠性提供了理論工具,有望在機器人、物理模擬和機器學習等領域產生重要影響。