通过VLAC-Cut引导管道最大化大规模机器人后训练中的人力效率
本文提出一种人效后训练管道,通过专业化分工(远程操作员和地面操作员)和自动轨迹分割工具VLAC-CUT,实现少量人员监督多台机器人。在四个真实操作任务中,最终策略成功率达80%-95%,吞吐量提升1.7-4.2倍,优于纯人类参与训练。
当视觉语言动作(VLA)模型被应用于下游任务时,单轮训练数据不能解决所有问题,因此需要多轮后训练来逐步修复前一阶段暴露的弱点。为了最大化人类效率——即单位人力和时间所带来的策略改进和任务吞吐量——本研究提出了一种高效的后训练管线。该管线的核心是专业化劳动分工:经过专门培训的远程操作员专注于高价值的远程干预和恢复演示,而地面操作员则负责监控多台机器人、触发接管并执行物理重置。这种角色分离显著减少了任务切换次数,降低了操作员培训成本,使得有限的人力能够监督更大规模的机器人车队。为了进一步提高数据利用效率,研究者引入了VLAC-CUT自动轨迹筛选工具。该工具将自主机器人的轨迹分割为进展、空闲、失败诱发和恢复四个部分,保留有助于学习的片段,过滤掉有害或信息量低的部分。经过筛选的 rollout 数据与人类参与循环的数据相结合,用于下一轮后训练。研究团队在四个真实世界的操作任务上验证了该管线的有效性。经过多轮迭代后训练,最终策略实现了80%至95%的成功率,任务吞吐量相比基础模型提升了1.7至4.2倍。在相同的人力干预预算下,VLAC-CUT引导的 rollout 重用方法在成功率和吞吐量方面均优于仅有人类参与的训练。这一工作为大规模机器人后训练提供了切实可行的解决方案,有望显著降低人力成本并加速机器人技能的部署。该研究展示了通过智能分配人类角色和自动化数据筛选,可以在显著减少人力投入的同时提升机器人学习效果,对于未来机器人系统的规模化部署具有重要意义。与传统的纯人类参与训练方法相比,VLAC-CUT引导的管道不仅提高了性能,还降低了操作员的疲劳度和培训难度,为机器人在工业和服务领域的广泛应用奠定了基础。