AIエージェント間の信頼：形成、破壊、回復の測定とマルチエージェントシステム統治への示唆
本研究は、コストのかかる検証に基づく行動測定法を提案し、AIエージェント間の信頼を定量化する。協力サバイバルゲームにおいて、エージェントは信頼できるチームメイトへの検証を減らすことで信頼を示す。6つの先端モデルスナップショットの実験では、大規模モデル（Claude Opus 4.6、GPT-5.1など）は検証を60～85％削減したが、小規模モデルはほとんど調整しなかった。信頼の回復は形成よりも遅く、集中した失敗は分散した失敗よりも長く疑念を継続させる。結果は、信頼性向が展開前に測定可能であり、統治は最大限の疑念ではなくキャリブレーションに焦点を当てるべきであることを示唆している。
言語モデルエージェントがますますチームで協力するようになる中、各エージェントはチームメイトをどの程度信頼すべきかを判断する必要があります。しかし、AIエージェント間の信頼を測定する標準的な方法はこれまで不足していました。新たな研究が、コストのかかる検証（costly verification）に基づく行動測定法を提案し、この課題に取り組んでいます。
この研究では、エージェントが協力サバイバルゲームに参加します。チームメイトの作業をチェックするとリソースを消費しますが、誤った答えを信頼すると致命的な結果を招く可能性があります。記憶の有無によるモデルの比較を通じて、検証回数の減少を信頼の観察可能な指標として用います。この枠組みを使用して、研究者は6つの先端モデルスナップショットにおける信頼の形成、破壊、回復を調査しました。
実験結果によると、常に信頼できるチームメイトとペアを組んだ場合、Claude Opus 4.6、Claude Sonnet 4.6、GPT-5.1、Gemini 3.1 Proの4モデルは検証を約60～85％削減しました。一方、2つの小規模モデルはほとんど調整を示しませんでした。チームメイトが失敗すると信頼割引は逆転しますが、モデルによって対応が異なります。あるモデルは問題のチームメイトに集中して再チェックする一方、他のモデルはチーム全体に対してより慎重になります。
信頼の回復は形成よりも遅く、集中した失敗は分散した同じ数の失敗よりもはるかに長く疑念を持続させます。これらの違いは実用的な影響を持ちます。信頼を形成するモデルは検証が少なく、より迅速に判断し、環境で高い報酬を得ます。対照的に、持続的な過剰検証は安全性ではなく優柔不断と関連しています。
この結果は、信頼性向が展開前に測定可能であることを示し、マルチエージェントAIシステムの統治において、最大限の疑念ではなくキャリブレーションが中心的な関心事であるべきだと示唆しています。論文はYujiao Chen氏によって執筆され、arXivプレプリント（arXiv:2606.14923）として公開されています。