跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

基于视觉与触觉的推理时策略引导

文章摘要

ViTaL 是一个融合视觉和触觉的推理时引导框架,通过双层优化提升接触密集型机器人操作任务的成功率。实验表明,其总体成功率比基础策略提高 51%,比单模态引导至少高 33%,比朴素多模态融合至少高 20%。

来源arXiv Robotics作者: Yilin Wu, Zilin Si, Zeynep Temel, Oliver Kroemer, Andrea Bajcsy
基于视觉与触觉的推理时策略引导
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Yilin Wu 等五位作者于 2026 年 6 月 12 日向 arXiv 提交了论文《Inference-time Policy Steering via Vision and Touch》(arXiv:2606.14981v1),归类为机器人学(cs.RO),并交叉涉及人工智能(cs.AI)与机器学习(cs.LG)。该研究聚焦于一个在机器人部署阶段颇为棘手的问题:如何在不重新训练模型的前提下,让预训练的生成式机器人策略适应真实世界中的接触密集型操作任务。

研究背景在于,所谓“推理时引导”(inference-time steering)是一类在部署时动态调整预训练生成式策略的方法。其核心思路是在真正执行动作之前,先对候选动作进行验证,只保留通过检验的方案。然而,以往的方法几乎只依赖视觉观测来完成这一验证步骤。作者指出,仅凭视觉往往不足以应对接触密集型操作,因为这类任务的成功同时取决于两个层面:一是全局的任务进度,二是诸如接触力这样细微的局部交互信息。视觉能够较好地捕捉前者,却难以准确反映后者的细节。

为弥补这一缺口,研究团队提出了名为 ViTaL 的视觉—触觉推理时引导框架,将多模态引导形式化为一个双层优化问题。在高层,框架通过视觉采样与验证进行长时程的模式选择,也就是决定机器人究竟应该执行哪一种行为;在低层,则利用触觉引导的扩散编辑(tactile-guided diffusion editing),在更短的时间尺度上对已选定的动作序列进行细化,以满足局部接触条件的要求。这种分层设计使得“做什么”与“怎么做”两个决策被分别处理,从而兼顾全局规划与精细控制。

为了支撑这种基于结果的引导方式,ViTaL 学习了一个视觉—触觉潜世界模型(visuo-tactile latent world model),并引入了语义对齐的视觉验证器与触觉验证器。其中一项新颖设计是文本条件触觉奖励(text-conditioned tactile reward),它能够直接在潜空间中为预测出的触觉未来打分,从而绕开在像素或原始信号层面评估的困难。

在三个真实的接触密集型操作任务上,ViTaL 相较基础策略将整体成功率提升了 51%,比仅使用单一模态的引导方法至少高出 33%,并比朴素的多模态融合方案至少高出 20%。论文还提供了项目网站(https://yilin-wu98.github.io/vital_website)供查阅。该论文以 arXiv:2606.14981v1 形式发布,全文约 17,002 KB,DOI 经 DataCite 分配(注册尚待完成)。

展开要点与分析

文章情报

工程师进阶

要点

  • ViTaL 将多模态引导建模为双层优化问题:高层视觉采样验证进行长时程模式选择,低层触觉引导扩散编辑优化局部接触动作。
  • 提出文本条件触觉奖励,在潜在空间中直接评估预测的未来触觉信号,实现基于结果的可视触觉引导。
  • 在三个真实世界接触密集型任务中,ViTaL 相比基础策略成功率提升 51%,优于单模态引导至少 33%,优于朴素多模态融合至少 20%。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。