TACO:触觉世界模型作为可扩展VLA后训练的自我校正器
TACO是一个触觉感知的世界模型驱动框架,用于接触密集型操作中的可扩展VLA后训练。它通过识别-想象-标记循环,将真实失败转化为想象的视觉-触觉校正,从而提升策略性能。实验表明,TACO相比基础策略实现了44%的绝对成功率提升。
视觉-语言-动作(VLA)模型在机器人操作中展现出良好的泛化能力,但在接触密集型任务中仍面临挑战:微小的接触扰动可能导致无法恢复的失败,且仅凭视觉难以检测。鉴于这些失败是局部的而非任务级语义错误,触觉感知的校正后训练提供了一种高效的恢复改进途径。然而,通过人工干预来扩展这种监督成本高昂。最近的研究探索了利用世界模型合成想象轨迹以改进策略,但仅视觉的世界模型可能产生视觉合理但接触不一致的轨迹。为此,本文提出了TACO,一个触觉感知的世界模型驱动框架,用于接触密集型操作中的可扩展VLA后训练。
TACO在真实机器人轨迹基础上,遵循“识别-想象-标记”循环,借助触觉感知的世界模型运作:统一进度-动作模型通过进度估计识别接近失败的状态,视觉-触觉生成模型想象局部校正片段,进度-动作模型则为这些片段标注可执行的校正动作。为了将触觉校正监督融入VLA后训练,TACO结合了知识隔离的触觉适应与优势条件训练,使策略能够从想象的校正中学习,同时不退化预训练的视觉-语言先验。这些组件使TACO能够将真实世界中的失败转化为想象的视觉-触觉校正,用于迭代的VLA后训练。
在真实世界的接触密集型操作任务实验中,TACO相比基础策略实现了44%的绝对成功率提升,相比不带知识隔离触觉适应的策略提升了32%。这一结果表明,触觉感知的世界模型在提升VLA模型处理接触密集型任务方面具有显著潜力。TACO的成功展示了如何通过融合触觉模态来弥补视觉的不足,为未来机器人操作中更鲁棒的后训练方法开辟了新的方向。