走向可信的具身智慧：系統框架與分級可信度
本文提出了一個系統框架，將可信具身智慧定義為在環境和系統變化下可靠執行任務並將風險控制在可接受範圍內的持續能力，即“持續安全成功”。該框架包括四個相互依賴的層：模型層、系統層、證據層和部署層。此外，還提出了一個非規範的可信度層級，用於評估部署宣告的強度，為安全部署、比較評估、研究優先順序和未來標準化提供基礎。
來源arXiv Robotics作者: Xinyu Yang, Tianxing Chen, Honghao Su, Minxuan Wang, Chenze Yu, Zhangzheng Tu, Yue Chen, Yuxiao Huo, Lingfeng Zhang, Yan Huang, Yan Qin, Shaolong Zhu, Qiwei Liang, Hekun Tian, Shujia Liu, Guangyu Chen, Junhao Gong, Zixuan Li, Wenwei Lin, Zijian Lin, Wenxuan Zhu, Eric J Chen, Yue Yuan, Qize Yu, Jiaqi Liang, Haowen Yan, Hengfei Zhao, Weijie Wan, Zikun Xiao, Junyuan Tang, Baijun Chen, Kai-Chong Lei, Kaixuan Wang, Kailun Su, Zanxin Chen, Yao Mu, Renjing Xu, Chuqiao Lyu, Qi Xiong, Ping Luo, Wenbo Ding
具身智慧系統融合了學習感知、決策、即時計算、控制和物理互動，其故障可能導致直接的身體或操作傷害，因此僅靠任務完成無法建立信任。一項新研究提出了一套系統框架，將可信具身智慧定義為在環境和系統變化下可靠執行任務並將風險控制在可接受範圍內的持續能力，即“持續安全成功”。該框架由四個相互依賴的層組成：模型層、系統層、證據層和部署層。
模型層負責生成具有校準不確定性和明確安全偏好的任務勝任動作提議；系統層透過整合感測、計算、控制、硬體安全、故障隔離和回退機制可靠地執行授權動作；證據層透過評估、驗證、確認、可追溯性和結構化保證論據來支援有限宣告；部署層透過執行時監控、許可權管理、干預、事件響應和受控更新來維持宣告的有效性。由於假設和故障在這些層之間傳播，單靠模型能力、孤立的安全措施或基準效能無法建立端到端的可信度。
基於具身AI、機器人學、控制理論、可靠計算、分散式系統和自動駕駛等領域的研究，作者進一步提出了一個非規範的可信度層級。該層級根據任務能力、安全性、系統保證、運營治理和支援證據來評估有限部署宣告的強度，為有限部署、比較評估、研究優先順序和未來標準化提供了依據。該框架的意義在於提供了一種結構化的方法來處理具身智慧系統的複雜性，並推動建立統一的信任評估標準。