Yunjin Tong によるこの論文は2026年6月30日に arXiv へ投稿されたもので、AIエージェントが実行時に人間の監督を受ける際に生じる双方向の情報非対称性を扱っている。著者によれば、人間の監督者は自分自身の報酬関数、すなわち何を望んでいるかを私的に知っている一方、AIは自分が提案する行動の品質を私的に知っている。この種の非対称性は、自律ロボットやソフトウェアエージェントが、人間の監督者が直接評価できない状況を先に調べた場合に自然に生じる。
論文は、協調的逆強化学習（CIRL）と監督ゲーム（Oversight Game）を土台として、双方向の非対称情報を持つ文脈付きバンディットのチームゲームを導入する。そこには play、ask、trust、oversee という四つの選択肢からなるインターフェースが用意されている。人間は、AIに行動をそのまま実行させるか、AIに尋ねるか、AIを信頼するか、あるいは自ら監督するかを選ぶことができる。
著者は、バンディット構造を採用する利点として、物理的な状態遷移を取り除けることを挙げる。これにより、完全な部分観測マルコフ決定過程（POMDP）の設定では推測にとどまっていた幾つかの一回限りの性質を、厳密に特徴づけられるようになる。ただし、共通の信念はラウンド間で動的に制御される状態であり続けるため、繰り返しの相互作用における情報更新は依然として複雑である。
論文は二つの一回限りの特徴づけを示す。一つはチーム最適であり、人間とAIが協力チームとして全体最適を目指す場合の意思決定規則である。もう一つは行動的により自然な近視眼的ルールで、人間が現在の事前信念に基づいて妥当に見える判断を下すものである。両者の差は、著者が回避可能な危害の領域と呼ぶものに対応する。この領域では、AIは提案する行動が有害であり、停止させることが役立つと私的に知っているにもかかわらず、近視眼的な人間は自分の事前信念を信じて監督を行わない。
著者はさらに、この差が本質的に監督コミュニケーションの信頼性の欠如に由来すると論じる。AIは行動が有害だと知っていても、人間に信頼できる形で伝えて監督行動を取らせることはできない。論文はまた、この差が繰り返しの相互作用の中でどのように動的に解消されていくかについて、受動的学習と能動的シグナリングという二つの仕組みを含めて部分的な分析を与え、監督の反応に一周期の遅れがある場合も考慮している。本研究は人工知能とゲーム理論の交叉領域に属し、人とAIの協働における情報非対称性と監督失敗を理解するための形式的枠組みを提供するものである。