近年來,視覺基礎模型在各類計算機視覺任務中取得了顯著進展,但一個重要問題始終懸而未決:這些模型是否真正理解三維世界的幾何結構?傳統研究通常通過迴歸深度圖或表面法線來評估模型的三維感知能力,但這些方法依賴於顯式三維標註,且無法揭示模型內部表徵的本質。最新研究《SeeSE3: Emergence of 3D Space in Vision Features》另闢蹊徑,直接從視覺特徵空間的結構出發,探討其與三維歐氏變換羣SE(3)的內在聯繫。
該研究由Caroline Chen等七位作者共同完成,提出了兩種創新的探針工具。第一種是相互鄰域度量,用於衡量特徵空間中相鄰關係與真實空間拓撲結構的一致性:如果兩個圖像塊在三維空間中物理位置鄰近,它們的特徵表示在潛在空間中也應相互靠近。第二種是龐加萊適配器,通過測試靜態場景中特徵位移的線性可解性,來評估模型是否編碼了相機運動的幾何信息。實驗表明,即使在訓練中完全沒有接觸過三維標註或主動交互信號,自監督視覺模型(如DINO、MAE等)的潛在子空間仍然與三維歐氏空間表現出驚人的強相關性。
基於這一發現,研究團隊進一步提出了“潛在空間導航”技術。該技術完全在特徵潛在空間中執行視覺里程計和定位任務,無需構建顯式的三維地圖或進行三維重建。具體而言,通過分析連續幀之間特徵向量的位移,即可直接估計相機的運動軌跡。這種方法不僅降低了計算開銷,還避免了對精確三維數據的依賴,為機器人導航、增強現實和自動駕駛等領域提供了全新的輕量化方案。
值得注意的是,該研究並非否認顯式三維重建的價值,而是揭示了一種更底層的幾何表徵能力。未來的工作可以進一步探索如何利用這種隱式幾何知識來改進現有模型,或者將其擴展到動態場景和複雜交互中。此外,該研究也為理解自監督學習的本質提供了新的視角:視覺模型在無監督條件下為何能自發地學會三維結構?這一問題可能引領更多關於表徵學習基礎理論的探索。