在機器人控制領域,視覺-語言-動作(VLA)策略通常依賴當前的視覺觀測來預測多步動作。然而,機器人執行動作時會導致接觸、遮擋和物體運動,使得後續決策所需的幾何信息在下一幀視覺輸入到來之前發生變化。現有的空間VLA優化當前幀幾何,時間VLA聚合歷史幀,但都未能在控制塊之間維護一個動作更新的場景先驗。針對這一問題,來自研究團隊的論文提出了EvoScene-VLA。該方法引入了一個循環場景前綴,在分塊控制調用之間傳遞幾何感知的場景狀態。在每個視覺-語言模型(VLM)調用時,VLM結合當前觀測和來自上一控制塊的場景先驗;動作解碼器同時輸出下一段動作和緊湊的場景更新。該更新成為下一個場景先驗,在下一次VLM調用時與新觀測值進行校正,從而使得每個控制調用都從融合了近期動作和最新視覺信息的場景先驗開始。在訓練階段,EvoScene-VLA使用場景預測器提供未來場景令牌目標,並通過幾何對齊模塊將場景槽與凍結的深度和3D教師模型對齊。這些訓練模塊在部署時被丟棄,推理時僅保留輕量級模型。在31個RoboTwin基準任務的實驗顯示,EvoScene-VLA在固定評估中將平均成功率從87.2%提高到89.1%,在隨機評估中從86.1%提高到88.5%。在Galaxea R1-Lite真實機器人上,該方法在所有基線中表現最佳,驗證了其在實際應用中的有效性。這一方法不僅提升了機器人控制的魯棒性,也為未來在複雜動態環境中實現更高效的自主操作提供了新思路。
EvoScene-VLA:在動作解碼器內部演化場景信念以支持分塊機器人控制
文章摘要
EvoScene-VLA是一種新的視覺-語言-動作(VLA)策略,它在動作解碼器內部維護一個持續更新的場景信念,以解決分塊機器人控制中因動作導致的場景變化問題。在31個RoboTwin任務和Galaxea R1-Lite真實機器人上,該方法顯著提升了任務成功率。
EvoScene-VLA:在動作解碼器內部演化場景信念以支持分塊機器人控制