両方向の情報非対称性を伴う文脈的バンディット監視ゲーム

新しい研究論文「両方向の情報非対称性を伴う文脈的バンディット監視ゲーム」が、Yunjin Tong氏によってarXivに提出され、2026年6月30日に公開されました。この研究は、人間とAIエージェントの間で双方が私的情報を持つ状況でのランタイム監視に焦点を当てています。人間は自身の報酬関数を私的に知り、AIは提案する行動の品質を私的に知っています。この非対称性は、自律ロボットやソフトウェアエージェントが人間の監督者が直接評価できない状況を検査する場合に自然に発生します。論文は、協調的逆強化学習（CIRL）と監視ゲームを基盤として、両方向の非対称情報を持つ文脈的バンディットチームゲームを導入し、「行動/質問/信頼/監視」インターフェースを設計しました。バンディット構造は物理状態遷移を排除し、完全POMDP設定では推測に留まるであろう正確な一回限りの特性評価を可能にします。ただし、共通信念はラウンド間で動的に制御される状態です。著者らは、チーム最適と行動的に自然な近視眼的ルールの2つの一回限りの特性評価を提示しています。これらのギャップは「回避可能な害」の領域、すなわちAIが提案行動が有害であることを私的に知りシャットダウンが有効であるにもかかわらず、近視眼的人間が事前信念を信頼して監視を拒否する領域を表します。このギャップは非信頼な監視コミュニケーションの代償であることが示され、受動的学習と能動的シグナリング（一期遅れの監視応答）を通じて動的に解消される部分分析が提供されています。この研究は、特に人間の監視の限界とAIの自律性のバランスが求められるシナリオにおいて、人工知能の安全性と人間とAIの協力に関する理論的洞察を提供します。論文の主題分類は人工知能（cs.AI）およびコンピュータ科学とゲーム理論（cs.GT）です。