跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

面向机器人安全的可验证基础模型

文章摘要

arXiv 论文提出 FEARL 框架,通过将机器人策略分解为大型控制器和小型安全模块,使得安全模块可以接受形式化验证,同时保留基础模型的表达能力,并在仿真和真实机器人上验证了其有效性。

来源arXiv Robotics作者: Davide Corsi, Kyungmin Kim, Roy Fox
面向机器人安全的可验证基础模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

2026年6月22日,arXiv 上发布了一篇题为《Verifiable Foundation Models for Robot Safety》(面向机器人安全的可验证基础模型)的论文,作者为 Davide Corsi 等三人,编号 arXiv:2606.23754v1,归属机器人学(cs.RO)与机器学习(cs.LG)交叉领域。论文聚焦于一个核心矛盾:将基础模型用于机器人控制时,其强大的多模态感知与表达能力恰恰使其内部机制难以被形式化分析,因而现有验证工具几乎无法直接处理这类模型。

为缓解这一张力,作者提出 FEARL(Foundation-Enabled Assured Robot Learning,基础模型赋能的可保障机器人学习)框架。其关键思路是采用模块化的架构分解:将策略拆分为一个大型的 Controller(C,控制器)与一个小型 Safety 模块(S,安全模块)。控制器负责高维感知与任务推理,承接基础模型原有的表达能力;安全模块则接收来自专用安全传感器的低维观测,并同时输入控制器给出的有界上下文嵌入,最终由它输出实际动作。

这一设计的要点在于验证对象的转移。许多机器人安全需求,例如碰撞 avoidance(避碰)与工作空间边界约束,本就定义在安全传感器观测之上。因此,形式化验证可以施加于小型的 S 模块,而不必针对庞大的基础模型主干。论文指出,这使形式化分析在现有工具下变得可行(tractable),同时保留了控制器在任务推理上的表达力。

为证明分解后的策略仍能完成多样化任务,作者在三个仿真机器人域上评估 FEARL,并使用多种控制器主干与训练流程,其中包括预训练、开箱即用的视觉-语言-动作(VLA)模型。此外,作者还将其中一个仿真任务中学到的策略迁移到真实机器人上,结果表明这种低维安全接口有助于实际的 sim-to-real 迁移。

论文于 2026 年 6 月 22 日 03:10:51 UTC 提交,全文约 2,225 KB,提供 PDF、实验性 HTML 与 TeX 源码,DOI 为 https://doi.org/10.48550/arXiv.2606.23754,由 DataCite 发放(待注册)。

展开要点与分析

文章情报

工程师进阶

要点

  • FEARL 将策略分解为大型控制器(C)和小型安全模块(S),安全模块基于低维安全传感器观测和来自控制器的有界上下文嵌入生成最终动作。
  • 该分解使得形式化验证可以应用于安全模块而非整个基础模型,从而利用现有工具实现可处理的形式分析。
  • 在三个仿真机器人域上评估了 FEARL,使用了多种控制器主干和训练过程,包括预训练的视觉-语言-动作模型。
  • 将学习到的策略从一个仿真任务迁移到物理机器人,表明低维安全接口支持实际的仿真到现实迁移。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。