Yilin Wu 等五位作者于 2026 年 6 月 12 日向 arXiv 提交了论文《Inference-time Policy Steering via Vision and Touch》(arXiv:2606.14981v1),归类为机器人学(cs.RO),并交叉涉及人工智能(cs.AI)与机器学习(cs.LG)。该研究聚焦于一个在机器人部署阶段颇为棘手的问题:如何在不重新训练模型的前提下,让预训练的生成式机器人策略适应真实世界中的接触密集型操作任务。
研究背景在于,所谓“推理时引导”(inference-time steering)是一类在部署时动态调整预训练生成式策略的方法。其核心思路是在真正执行动作之前,先对候选动作进行验证,只保留通过检验的方案。然而,以往的方法几乎只依赖视觉观测来完成这一验证步骤。作者指出,仅凭视觉往往不足以应对接触密集型操作,因为这类任务的成功同时取决于两个层面:一是全局的任务进度,二是诸如接触力这样细微的局部交互信息。视觉能够较好地捕捉前者,却难以准确反映后者的细节。
为弥补这一缺口,研究团队提出了名为 ViTaL 的视觉—触觉推理时引导框架,将多模态引导形式化为一个双层优化问题。在高层,框架通过视觉采样与验证进行长时程的模式选择,也就是决定机器人究竟应该执行哪一种行为;在低层,则利用触觉引导的扩散编辑(tactile-guided diffusion editing),在更短的时间尺度上对已选定的动作序列进行细化,以满足局部接触条件的要求。这种分层设计使得“做什么”与“怎么做”两个决策被分别处理,从而兼顾全局规划与精细控制。
为了支撑这种基于结果的引导方式,ViTaL 学习了一个视觉—触觉潜世界模型(visuo-tactile latent world model),并引入了语义对齐的视觉验证器与触觉验证器。其中一项新颖设计是文本条件触觉奖励(text-conditioned tactile reward),它能够直接在潜空间中为预测出的触觉未来打分,从而绕开在像素或原始信号层面评估的困难。
在三个真实的接触密集型操作任务上,ViTaL 相较基础策略将整体成功率提升了 51%,比仅使用单一模态的引导方法至少高出 33%,并比朴素的多模态融合方案至少高出 20%。论文还提供了项目网站(https://yilin-wu98.github.io/vital_website)供查阅。该论文以 arXiv:2606.14981v1 形式发布,全文约 17,002 KB,DOI 经 DataCite 分配(注册尚待完成)。