走向可信的具身智能：系統框架與分級可信度
本文提出了一個系統框架，將可信具身智能定義為在環境和系統變化下可靠執行任務並將風險控制在可接受範圍內的持續能力，即“持續安全成功”。該框架包括四個相互依賴的層：模型層、系統層、證據層和部署層。此外，還提出了一個非規範的可信度層級，用於評估部署聲明的強度，為安全部署、比較評估、研究優先級和未來標準化提供基礎。
來源arXiv Robotics作者: Xinyu Yang, Tianxing Chen, Honghao Su, Minxuan Wang, Chenze Yu, Zhangzheng Tu, Yue Chen, Yuxiao Huo, Lingfeng Zhang, Yan Huang, Yan Qin, Shaolong Zhu, Qiwei Liang, Hekun Tian, Shujia Liu, Guangyu Chen, Junhao Gong, Zixuan Li, Wenwei Lin, Zijian Lin, Wenxuan Zhu, Eric J Chen, Yue Yuan, Qize Yu, Jiaqi Liang, Haowen Yan, Hengfei Zhao, Weijie Wan, Zikun Xiao, Junyuan Tang, Baijun Chen, Kai-Chong Lei, Kaixuan Wang, Kailun Su, Zanxin Chen, Yao Mu, Renjing Xu, Chuqiao Lyu, Qi Xiong, Ping Luo, Wenbo Ding
具身智能系統融合了學習感知、決策、實時計算、控制和物理交互，其故障可能導致直接的身體或操作傷害，因此僅靠任務完成無法建立信任。一項新研究提出了一套系統框架，將可信具身智能定義為在環境和系統變化下可靠執行任務並將風險控制在可接受範圍內的持續能力，即“持續安全成功”。該框架由四個相互依賴的層組成：模型層、系統層、證據層和部署層。
模型層負責生成具有校準不確定性和明確安全偏好的任務勝任動作提議；系統層通過集成傳感、計算、控制、硬件安全、故障隔離和回退機制可靠地執行授權動作；證據層通過評估、驗證、確認、可追溯性和結構化保證論據來支持有限聲明；部署層通過運行時監控、權限管理、干預、事件響應和受控更新來維持聲明的有效性。由於假設和故障在這些層之間傳播，單靠模型能力、孤立的安全措施或基準性能無法建立端到端的可信度。
基於具身AI、機器人學、控制理論、可靠計算、分佈式系統和自動駕駛等領域的研究，作者進一步提出了一個非規範的可信度層級。該層級根據任務能力、安全性、系統保證、運營治理和支持證據來評估有限部署聲明的強度，為有限部署、比較評估、研究優先級和未來標準化提供了依據。該框架的意義在於提供了一種結構化的方法來處理具身智能系統的複雜性，並推動建立統一的信任評估標準。