跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

SEVI:安全的證據式真實世界強化學習

文章摘要

SEVI 提出一種用於真實機器人強化學習的安全乾預框架,通過證據式安全評論家同時預測約束違反風險與認知不確定性,並在動作執行前進行過濾或由離線恢復策略接管,在仿真和真實 USB 插入任務中顯著減少不安全事件。

來源arXiv Robotics作者: Shaekh Mohammad Shithil, Lantao Liu
SEVI:安全的證據式真實世界強化學習
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

SEVI(Safe Evidential Real-World Reinforcement Learning,安全證據型真實世界強化學習)由 Shaekh Mohammad Shithil 與另一位作者共同提出,是一項面向真實機器人策略學習的可靠性感知安全乾預框架。該論文於 2026 年 10 月 22 日提交至 arXiv,編號為 arXiv:2610.31829v1,屬於機器人學(cs.RO)分類,同時涉及人工智能(cs.AI)與機器學習(cs.LG)。研究已被 IEEE Robotics and Automation Letters(RA-L)2026 接收,全文共 13 頁、7 幅圖,項目頁面為 sevi-safe.github.io。

研究背景在於,真實世界強化學習已能讓機器人在物理平台上直接訓練接觸密集型操作任務,但在線學習過程中的不安全交互仍是實際部署的主要障礙。機器人在探索階段可能做出危險動作,若缺乏可靠的實時安全機制,就難以在真實環境中持續學習。

SEVI 的核心組件是“證據型安全評論家”(Evidential Safety Critic)。它能在一次前向推理中同時估計未來約束違反風險與認知不確定性。這種設計使系統不僅判斷動作是否危險,還能判斷該判斷本身是否有足夠的證據支撐。

在在線學習過程中,SEVI 會在執行每個任務策略動作之前進行評估。若預測該動作不安全,或預測缺乏充分證據支持,SEVI 就會用離線訓練好的恢復策略覆蓋原動作,引導機器人轉向風險更低的區域。這一機制在保持低延遲執行時過濾的同時,兼顧了安全性。

實驗評估覆蓋兩個仿真操作任務,以及一個真實世界 USB 插入任務,並在同分布與分佈偏移兩種條件下進行測試。與任務學習類和安全評論家類基線方法相比,SEVI 在軌跡級安全預測上表現最強,最終任務成功率最高,不安全事件數量最少。相對於基於恢復策略的安全強化學習方法,SEVI 將不安全事件減少了 13.4% 至 57.1%。

展開要點與分析

文章情報

研究者進階

要點

  • 引入證據式安全評論家,單次前向傳播同時輸出未來約束違反風險和認知不確定性。
  • 在線學習時逐動作評估,不安全或證據不足時由離線訓練的恢復策略覆蓋。
  • 在仿真操作和真實 USB 插入任務中取得最高任務成功率和最低不安全事件數。
  • 相比基於恢復的安全強化學習,不安全事件減少 13.4% 至 57.1%,並保持低延遲。

技術影響

可能影響合規要求、模型發佈節奏、數據治理和企業採購。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。