跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

SEVI:安全的证据式真实世界强化学习

文章摘要

SEVI 提出一种用于真实机器人强化学习的安全干预框架,通过证据式安全评论家同时预测约束违反风险与认知不确定性,并在动作执行前进行过滤或由离线恢复策略接管,在仿真和真实 USB 插入任务中显著减少不安全事件。

来源arXiv Robotics作者: Shaekh Mohammad Shithil, Lantao Liu
SEVI:安全的证据式真实世界强化学习
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

SEVI(Safe Evidential Real-World Reinforcement Learning,安全证据型真实世界强化学习)由 Shaekh Mohammad Shithil 与另一位作者共同提出,是一项面向真实机器人策略学习的可靠性感知安全干预框架。该论文于 2026 年 10 月 22 日提交至 arXiv,编号为 arXiv:2610.31829v1,属于机器人学(cs.RO)分类,同时涉及人工智能(cs.AI)与机器学习(cs.LG)。研究已被 IEEE Robotics and Automation Letters(RA-L)2026 接收,全文共 13 页、7 幅图,项目页面为 sevi-safe.github.io。

研究背景在于,真实世界强化学习已能让机器人在物理平台上直接训练接触密集型操作任务,但在线学习过程中的不安全交互仍是实际部署的主要障碍。机器人在探索阶段可能做出危险动作,若缺乏可靠的实时安全机制,就难以在真实环境中持续学习。

SEVI 的核心组件是“证据型安全评论家”(Evidential Safety Critic)。它能在一次前向推理中同时估计未来约束违反风险与认知不确定性。这种设计使系统不仅判断动作是否危险,还能判断该判断本身是否有足够的证据支撑。

在在线学习过程中,SEVI 会在执行每个任务策略动作之前进行评估。若预测该动作不安全,或预测缺乏充分证据支持,SEVI 就会用离线训练好的恢复策略覆盖原动作,引导机器人转向风险更低的区域。这一机制在保持低延迟执行时过滤的同时,兼顾了安全性。

实验评估覆盖两个仿真操作任务,以及一个真实世界 USB 插入任务,并在同分布与分布偏移两种条件下进行测试。与任务学习类和安全评论家类基线方法相比,SEVI 在轨迹级安全预测上表现最强,最终任务成功率最高,不安全事件数量最少。相对于基于恢复策略的安全强化学习方法,SEVI 将不安全事件减少了 13.4% 至 57.1%。

展开要点与分析

文章情报

研究者进阶

要点

  • 引入证据式安全评论家,单次前向传播同时输出未来约束违反风险和认知不确定性。
  • 在线学习时逐动作评估,不安全或证据不足时由离线训练的恢复策略覆盖。
  • 在仿真操作和真实 USB 插入任务中取得最高任务成功率和最低不安全事件数。
  • 相比基于恢复的安全强化学习,不安全事件减少 13.4% 至 57.1%,并保持低延迟。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。