當視覺語言動作(VLA)模型被應用於下游任務時,單輪訓練數據不能解決所有問題,因此需要多輪後訓練來逐步修復前一階段暴露的弱點。為了最大化人類效率——即單位人力和時間所帶來的策略改進和任務吞吐量——本研究提出了一種高效的後訓練管線。該管線的核心是專業化勞動分工:經過專門培訓的遠程操作員專注於高價值的遠程干預和恢復演示,而地面操作員則負責監控多台機器人、觸發接管並執行物理重置。這種角色分離顯著減少了任務切換次數,降低了操作員培訓成本,使得有限的人力能夠監督更大規模的機器人車隊。為了進一步提高數據利用效率,研究者引入了VLAC-CUT自動軌跡篩選工具。該工具將自主機器人的軌跡分割為進展、空閒、失敗誘發和恢復四個部分,保留有助於學習的片段,過濾掉有害或信息量低的部分。經過篩選的 rollout 數據與人類參與循環的數據相結合,用於下一輪後訓練。研究團隊在四個真實世界的操作任務上驗證了該管線的有效性。經過多輪迭代後訓練,最終策略實現了80%至95%的成功率,任務吞吐量相比基礎模型提升了1.7至4.2倍。在相同的人力干預預算下,VLAC-CUT引導的 rollout 重用方法在成功率和吞吐量方面均優於僅有人類參與的訓練。這一工作為大規模機器人後訓練提供了切實可行的解決方案,有望顯著降低人力成本並加速機器人技能的部署。該研究展示了通過智能分配人類角色和自動化數據篩選,可以在顯著減少人力投入的同時提升機器人學習效果,對於未來機器人系統的規模化部署具有重要意義。與傳統的純人類參與訓練方法相比,VLAC-CUT引導的管道不僅提高了性能,還降低了操作員的疲勞度和培訓難度,為機器人在工業和服務領域的廣泛應用奠定了基礎。
通過VLAC-Cut引導管道最大化大規模機器人後訓練中的人力效率
文章摘要
本文提出一種人效後訓練管道,通過專業化分工(遠程操作員和地面操作員)和自動軌跡分割工具VLAC-CUT,實現少量人員監督多台機器人。在四個真實操作任務中,最終策略成功率達80%-95%,吞吐量提升1.7-4.2倍,優於純人類參與訓練。
來源arXiv Robotics作者: Shaopeng Zhai, Qi Zhang, Tianyi Zhang, Haoran Zhang, Fuxian Huang, Zhanhui Lin, Zijun Xu
通過VLAC-Cut引導管道最大化大規模機器人後訓練中的人力效率