信頼できる身体性知能へ向けて：システムフレームワークと段階的信頼性レベル
本論文は、環境やシステムの変動下でタスクを確実に実行し、リスクを許容範囲内に保つ持続的な能力として「持続的安全成功」を定義し、それを支える4つの相互依存層（モデル層、システム層、エビデンス層、デプロイメント層）からなるシステムフレームワークを提案する。さらに、非規範的な信頼性レベルの階層を導入し、限定的なデプロイメント、比較評価、研究の優先順位付け、将来の標準化の基盤を提供する。
身体性知能システムは、学習された知覚と意思決定をリアルタイム計算、制御、物理的相互作用と統合する。故障が即座に身体的または運用上の害を引き起こす可能性があるため、タスク完了だけでは信頼性は確立されない。新しい研究は、システムフレームワークを提案し、信頼できる身体性知能を、環境やシステムの変動下でタスクを確実に実行し、リスクを許容範囲内に保つ持続的な能力、すなわち「持続的安全成功」と定義する。
このフレームワークは4つの相互依存層から構成される。モデル層は、調整された不確実性と明確な安全選好を備えたタスク遂行可能な行動提案を生成する。システム層は、統合されたセンシング、計算、制御、ハードウェア安全策、障害封じ込め、フォールバックを通じて、許可された行動を確実に実行する。エビデンス層は、評価、検証、妥当性確認、トレーサビリティ、構造化された保証議論を通じて、限定された主張を実証する。デプロイメント層は、実行時監視、権限管理、介入、インシデント対応、制御された更新を通じて、主張の有効性を維持する。仮定や障害はこれらの層を伝播するため、モデル能力、孤立した安全策、ベンチマーク性能だけではエンドツーエンドの信頼性を確立できない。
身体性AI、ロボティクス、制御、ディペンダブルコンピューティング、分散システム、自動運転などの分野を参考に、著者らはさらに非規範的な信頼性レベルの階層を提案する。この階層は、タスク能力、安全性、システム保証、運用ガバナンス、およびそれを支えるエビデンスにわたって、限定的なデプロイメント主張の強度を評価し、限定的なデプロイメント、比較評価、研究の優先順位付け、将来の標準化の基盤を提供する。