SEVI(Safe Evidential Real-World Reinforcement Learning,安全证据型真实世界强化学习)由 Shaekh Mohammad Shithil 与另一位作者共同提出,是一项面向真实机器人策略学习的可靠性感知安全干预框架。该论文于 2026 年 10 月 22 日提交至 arXiv,编号为 arXiv:2610.31829v1,属于机器人学(cs.RO)分类,同时涉及人工智能(cs.AI)与机器学习(cs.LG)。研究已被 IEEE Robotics and Automation Letters(RA-L)2026 接收,全文共 13 页、7 幅图,项目页面为 sevi-safe.github.io。
研究背景在于,真实世界强化学习已能让机器人在物理平台上直接训练接触密集型操作任务,但在线学习过程中的不安全交互仍是实际部署的主要障碍。机器人在探索阶段可能做出危险动作,若缺乏可靠的实时安全机制,就难以在真实环境中持续学习。
SEVI 的核心组件是“证据型安全评论家”(Evidential Safety Critic)。它能在一次前向推理中同时估计未来约束违反风险与认知不确定性。这种设计使系统不仅判断动作是否危险,还能判断该判断本身是否有足够的证据支撑。
在在线学习过程中,SEVI 会在执行每个任务策略动作之前进行评估。若预测该动作不安全,或预测缺乏充分证据支持,SEVI 就会用离线训练好的恢复策略覆盖原动作,引导机器人转向风险更低的区域。这一机制在保持低延迟执行时过滤的同时,兼顾了安全性。
实验评估覆盖两个仿真操作任务,以及一个真实世界 USB 插入任务,并在同分布与分布偏移两种条件下进行测试。与任务学习类和安全评论家类基线方法相比,SEVI 在轨迹级安全预测上表现最强,最终任务成功率最高,不安全事件数量最少。相对于基于恢复策略的安全强化学习方法,SEVI 将不安全事件减少了 13.4% 至 57.1%。