跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

SeeTraceAct: 跨體演示視頻中的可見性感知潛在規劃

文章摘要

本文提出SeeTraceAct,一種基於單次演示視頻的視覺語言動作模型(VLA)框架,通過可見性感知的末端執行器軌跡預測實現精確空間定位。實驗表明,該方法在RoboCasa-DC基準和真實世界任務中優於基線,將平均成功率提升12.5個百分點。

來源arXiv Robotics作者: Jaehyeon Son, Junhyun Kim, Kyle Kam, Jeremiah Coholich, Seok Joon Kim, Jinhoo Kim, Chris Dongjoo Kim, Jaemin Cho, Dieter Fox, Zsolt Kira
SeeTraceAct: 跨體演示視頻中的可見性感知潛在規劃
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

視覺語言動作模型(VLA)結合了視覺、語言和動作,是通用機器人策略的有力候選。然而,傳統的VLA適應新任務需要海量的特定任務遙操作數據,這限制了其實際應用。為了緩解這一數據瓶頸,研究者提出了“一次性演示條件VLA”(one-shot demo-conditioned VLA),即策略僅需對一個新任務的單一演示視頻進行條件化即可執行。儘管這種方法前景廣闊,但現有端到端模型在執行需要精確定位小目標區域的任務時往往力不從心。

來自韓國科學技術院(KAIST)等機構的研究團隊深入分析了這一侷限性,並提出了一種名為SeeTraceAct的創新框架。該框架的核心思想是通過可見性感知的未來末端執行器軌跡預測來鼓勵模型進行精確的空間定位。具體來説,SeeTraceAct在訓練過程中不僅要求模型預測動作,還要求其預測未來的末端執行器軌跡,並利用可見性信息(即哪些部分是可見的)來引導模型關注關鍵區域。這種設計使得模型能夠更好地理解演示視頻中的空間關係,從而在未知環境中實現更準確的泛化。

為了驗證SeeTraceAct的有效性並促進可重複研究,團隊同時推出了RoboCasa-DC數據集。該數據集基於RoboCasa構建,增加了與人類演示視頻配對的機器人任務數據,特別支持跨體演示場景——即機器人從人類演示中學習。在RoboCasa-DC的四個不同設置以及一個真實世界基準(使用Franka Panda機械臂)上的實驗結果表明,SeeTraceAct在所有場景下均取得了最佳成功率,其中真實世界的平均成功率相比基線提升了12.5個百分點。

這一成果表明,通過引入可見性感知的潛在軌跡規劃,可以在不增加數據採集成本的情況下顯著提升演示條件VLA的性能。SeeTraceAct為低成本、高效率的機器人技能獲取開闢了新路徑,尤其適用於那些難以進行大規模遙操作的任務。論文及代碼已公開在arXiv上,感興趣的讀者可以進一步查閲。

展開要點與分析

文章情報

工程師進階

要點

  • SeeTraceAct通過可見性感知的潛在軌跡規劃解決VLA在小目標區域定位上的困難
  • 引入RoboCasa-DC數據集,包含跨體演示的人類視頻對
  • 在Franka Panda機械臂上的真實世界實驗中,成功率平均提升12.5%

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。