SEVI(Safe Evidential Real-World Reinforcement Learning,安全證據型真實世界強化學習)由 Shaekh Mohammad Shithil 與另一位作者共同提出,是一項面向真實機器人策略學習的可靠性感知安全乾預框架。該論文於 2026 年 10 月 22 日提交至 arXiv,編號為 arXiv:2610.31829v1,屬於機器人學(cs.RO)分類,同時涉及人工智能(cs.AI)與機器學習(cs.LG)。研究已被 IEEE Robotics and Automation Letters(RA-L)2026 接收,全文共 13 頁、7 幅圖,項目頁面為 sevi-safe.github.io。
研究背景在於,真實世界強化學習已能讓機器人在物理平台上直接訓練接觸密集型操作任務,但在線學習過程中的不安全交互仍是實際部署的主要障礙。機器人在探索階段可能做出危險動作,若缺乏可靠的實時安全機制,就難以在真實環境中持續學習。
SEVI 的核心組件是“證據型安全評論家”(Evidential Safety Critic)。它能在一次前向推理中同時估計未來約束違反風險與認知不確定性。這種設計使系統不僅判斷動作是否危險,還能判斷該判斷本身是否有足夠的證據支撐。
在在線學習過程中,SEVI 會在執行每個任務策略動作之前進行評估。若預測該動作不安全,或預測缺乏充分證據支持,SEVI 就會用離線訓練好的恢復策略覆蓋原動作,引導機器人轉向風險更低的區域。這一機制在保持低延遲執行時過濾的同時,兼顧了安全性。
實驗評估覆蓋兩個仿真操作任務,以及一個真實世界 USB 插入任務,並在同分布與分佈偏移兩種條件下進行測試。與任務學習類和安全評論家類基線方法相比,SEVI 在軌跡級安全預測上表現最強,最終任務成功率最高,不安全事件數量最少。相對於基於恢復策略的安全強化學習方法,SEVI 將不安全事件減少了 13.4% 至 57.1%。