2026年5月23日、Barak Or氏による論文「フィジカルAIにおけるサイレント障害：自律システムのランタイム行動認可に関する文献レビュー」がarXivに投稿された。このレビューは、フィジカルAIシステムがマルチモーダルな観測、言語指示、学習された世界表現を物理的に結果を伴う行動にマッピングする際に生じる、新たな安全問題に焦点を当てている。
フィジカルAIシステムには、ロボティクス基盤モデル、視覚-言語-行動モデル、世界モデルに基づく自律システムが含まれる。これらは車両、ロボット、ドローン、産業機械を動かす判断を下すことができる。しかし、この移行は、従来のAIコンテンツモデレーションや古典的なロボット安全だけでは捉えきれない安全問題を露呈させる。核心的な矛盾は、ブラックボックスのモデルが自信に満ち、もっともらしく、意味的に整合した形で物理的に重大な行動を指示しながら、実際には危険をはらんでいる可能性があるという点だ。
thisような失敗が「サイレント」と呼ばれるのは、その原因がセンサードリフト、オクルージョン、状態推定誤差、分布シフト、幻覚的なアフォーダンス、あるいは無効な物理的仮定に由来し、下流のハードウェアコントローラが違反を検出する前に気付かれにくいためである。言い換えれば、モデル自体は「問題なさそう」に見えても、行動はすでに安全境界から逸脱している可能性がある。
レビュー著者は、具体化された基盤モデル、世界モデル、ロボティクスシミュレーション、具体化安全ベンチマーク、安全制御、ランタイム保証、不確実性推定、形式検証、ガードレール評価など、複数の分野において、モデル能力と安全メカニズムが主に別々の技術的軌道を進んできたと指摘する。この分離により、繰り返し現れるギャップが生じている。すなわち、レビュー対象のどの研究ストリームも、ブラックボックスのフィジカルAIモデルと物理実行の間の完全なランタイム認可境界を提供していないのである。
この問題に対処するため、論文は限定された問題定式化を提示し、「サイレント物理行動障害」の定義を明確にし、ランタイムガードレール機能の分類体系を構築している。さらに、レビューは、フィジカルAIの保証メカニズムとしてのガードレールを比較評価するための要件を提示する。これらの作業は、モデル能力と物理安全の間の重要なギャップを埋めることを目指す、今後の研究のための概念的枠組みと評価基盤を提供するものである。
本論文は全23ページで、ロボティクス（cs.RO）と人工知能（cs.AI）の学際領域に属し、フィジカルAIシステムの安全な展開に対する緊急の関心を反映している。