在机器人操作研究中,接触密集型任务一直是最具挑战性的方向之一:插入、拆卸、拧紧螺丝或探索性交互都涉及复杂的接触动力学,模型必须从视觉与触觉等多模态观测中理解这些动力学,才能做出可靠的规划。然而,究竟哪些表征特性真正决定了长期规划的稳定性,此前并没有清晰的答案。来自 arXiv 的论文《ContactWorld: What Matters in Vision-Tactile World Models for Contact-Rich Manipulation》正是围绕这一问题展开,作者为 Zhiyuan Zhang 等九位研究者,论文共 32 页、含 12 幅插图及补充材料,属于机器人学(cs.RO)方向,于 2026 年 6 月 11 日提交。
研究团队提出了 ContactWorld,一个面向视觉-触觉世界模型的基准与系统性实证研究平台,覆盖 12 类接触密集型操作任务,包括插入、拆卸、拧紧以及探索性交互等典型场景。与以往只关注单一模态或单一任务的工作不同,该研究在统一框架下比较不同观测表征与多模态组合对规划性能的影响,从而识别出真正支撑稳定规划的表征属性。
实验得出的核心结论是:同时具备空间结构化与时间连续性的表征,始终能取得最强的规划表现。具体而言,采用点云观测后,平均规划成功率从腕部视角的 20.7% 和前视角的 22.0% 提升到 32.1%。这一结果说明,相比单一视角的二维图像,能够保留三维空间结构的点云表征更有利于模型理解接触几何关系,从而改善规划效果。
研究进一步发现,触觉感知的有效性关键取决于跨模态表征之间的兼容性,而不仅仅是模态数量的增加。当点云观测与触觉力场表征结合时——后者保留了更丰富的空间结构与交互动力学信息——平均规划成功率进一步提升至 36.1%,在所有评测任务中取得最佳整体表现。这表明,简单堆叠更多传感器输入并不能自动带来收益,只有与视觉表征在结构和动力学层面相互匹配的触觉信息,才能真正发挥作用。
此外,触觉传感在长时程规划目标下变得愈发重要。随着规划步数增加,预测误差会不断累积,接触不确定性也会随时间放大,此时触觉反馈能够提供视觉难以捕捉的接触状态信息,帮助模型维持稳定的长期规划。作者由此强调,表征结构、多模态兼容性以及长时程鲁棒性,是构建接触密集型机器人操作视觉-触觉世界模型时最需要重视的三个要素。该研究为后续多模态世界模型的设计提供了可复现的评测基准与清晰的实证依据。