arXiv 預印本 2609.04264v1 題為《Spectral-Target Physical Latent Structuring for JEPA-Style World Models》(面向 JEPA 風格世界模型的譜目標物理潛在結構化),由 Penghao Zhu 與另外三位作者共同撰寫,並於 2026 年 9 月 2 日提交至機器學習的 cs.LG 類別。該版本在提交當天 18:05:06 UTC 上線,檔案大小約 5,171 KB,論文共 9 頁、包含 4 張圖,提交歷史來自 Aneesh Jonelagadda。研究聚焦於潛在世界模型,這類模型近年來越來越常見,其核心是直接在潛在空間中進行預測和規劃,而不是在原始畫素空間操作。以 LeWorldModel(LeWM)為代表的近期架構會將編碼器與預測器聯合訓練,並使用 SIGReg 這類正則化技巧來防止表徵坍縮。論文指出,即便表徵沒有坍縮,世界模型仍然可能出現一種新的失效模式,即物理表徵惰性。該問題在高度動態的環境中尤為突出:潛在狀態沒有坍縮,卻沒有表達關鍵的物理屬性,因此導致下游規劃任務出現系統性失敗。為了解決這一問題,研究者提出在訓練期間加入輔助監督,具體使用一個輕量級傅立葉輔助頭,透過物理資訊約束來對潛在空間進行結構化。該輔助頭不會帶來任何推理階段的額外成本,而且可以推廣到任意環境。在實驗中,作者觀察到傅立葉輔助頭在基線 LeWM 表現出物理表徵惰性的動態環境中大幅提升了規劃成功率;即使在基線沒有表現出該惰性的其他環境中,該方法也能帶來適度改進。結果還顯示,更好的規劃表現伴隨著潛在空間與關鍵物理屬性之間更高的相關度。這既說明該方法有能力在物理層面結構化學到的潛在狀態,也說明物理結構化的表徵可能對規劃端產生幫助。此外,在低資料場景中,輔助監督對提高成功率尤為關鍵。基於這些發現,作者認為傅立葉輔助頭可以提升整體成功率與資料效率,同時避免潛在世界模型中的物理表徵惰性。該論文的 arXiv 編號為 2609.04264,DOI 為 10.48550/arXiv.2609.04264,當前瀏覽上下文為 cs.LG 的 2026 年 9 月新提交內容。頁面還提供了 PDF、實驗性 HTML、TeX 原始碼等獲取方式,相關引用與推薦工具也已在 arXiv 頁面上列出。
面向JEPA風格世界模型的譜目標物理潛在空間結構化
文章摘要
針對潛在世界模型中“物理表徵惰性”這一新失效模式,作者提出透過輕量級傅立葉輔助頭進行訓練時輔助監督,在不增加推理成本的情況下讓潛在空間具備物理結構,從而顯著提升動態環境和低資料場景下的規劃成功率與資料效率。
面向JEPA風格世界模型的譜目標物理潛在空間結構化