言語モデルエージェントがチームで協力する機会が増えるにつれ、各エージェントはチームメイトをどの程度信頼するかを決定する必要がある。しかし、AIエージェント間の信頼を測定する標準的な方法はこれまで存在しなかった。arXivに発表された新しい論文「AIエージェント間の信頼：形成・破壊・回復の測定とマルチエージェントシステム統治への示唆」は、「コストのかかる検証」に基づく行動学的な測定法を提案している。
この方法の中心は協力サバイバルゲームである。ゲームでは、チームメイトの作業を確認するとリソースが消費され、誤った答えを信頼すると致命的な結果を招く。研究者らはモデルを同じモデルの無記憶バージョンと比較し、チームメイトに対する検証を減らす場合、その減少を信頼の観測可能な指標とする。この枠組みを用いて、6つのフロンティアモデルスナップショットにおける信頼の形成、破壊、回復を研究した。
実験の結果、常に信頼できるチームメイトとペアにした場合、4つのモデルスナップショット（Claude Opus 4.6、Claude Sonnet 4.6、GPT-5.1、Gemini 3.1 Pro）は検証行動を約60％から85％削減した。一方、2つの小規模モデルスナップショットはこのような調整をほとんど示さなかった。これは、大規模モデルがチームメイトの信頼性に応じて信頼レベルを動的に調整できることを示している。
失敗が発生すると、この信頼の割引は反転するが、モデルによって反応が異なる。あるモデルは監視を誤りを犯したチームメイトに集中させるが、別のモデルはチーム全体に対してより慎重になる。さらに、信頼の回復は形成よりも遅く、集中して発生した失敗は、同じ数でも分散して発生した失敗よりも長く疑念を持続させる。
これらの違いは実際的な結果をもたらす。信頼を形成できるモデルは検証が少なく、意思決定が迅速で、この環境ではより高い報酬を得る。対照的に、持続的な過剰検証は安全性ではなく優柔不断と関連している。研究者らは、信頼傾向は導入前に測定できると結論付け、マルチエージェントAIシステムの統治においては、最大限の疑念ではなくキャリブレーション（調整）を中心的な関心事とすべきだと提言している。