大規模言語モデル（LLM）エージェントは、個人や組織を代表して交渉に参加する機会が増えているが、特に反復的な多者間のやり取りでは操作に対して脆弱なままである。古典的なマルチエージェントシステムでは、明示的な信頼モデルや評判モデルによってこの課題に対処してきたが、既存のLLM交渉研究の多くは信頼を創発的な現象として扱っている。Amit Sarker氏ら4名による論文「Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation」は、LLMエージェントが過去の相互作用から有用な信頼推定を形成し、それを将来の交渉結果の改善に活かせるかを検討する。
著者らは、反復的で多者間かつ多争点の交渉フレームワークを導入した。この枠組みでは、繰り返し参加するエージェント群が一連の交渉ゲームを行い、そのうち1名の参加者が密かに合意の成立を妨げようとする。各ゲームの後、エージェントは相手を評価し、ペアごとの信頼推定を維持して、その推定を次の交渉に持ち越す。研究では、信頼を考慮するエージェントと信頼を考慮しないエージェントを比較し、明示的な信頼が交渉結果にどう影響するかを分析した。
その結果、著者らは「信頼—合意ギャップ」と呼ぶ現象を明らかにした。信頼を考慮するエージェントは数回のゲームで敵対者を特定できるものの、正確な信頼推定が一貫してより良い合意につながるわけではない。信頼は合意率を最大23ポイント高めるが、それはエージェントが意思決定において信頼を明示的に利用するよう導かれた場合に限られる。
したがって、明示的な信頼は反復的なLLM交渉を改善し得るが、その価値は信頼をどのように評価し、エージェントの推論にどのように組み込むかに決定的に依存する。この知見は、人間の代わりに複雑な交渉に参加するLLMエージェントの設計に直接的な示唆を与える。信頼モデルを構築するだけでは十分ではなく、信頼推定を交渉戦略や意思決定プロセスにより緊密に結び付ける必要がある。本論文は人工知能（cs.AI）に分類され、計算と言語（cs.CL）およびマルチエージェントシステム（cs.MA）にもまたがる。2026年10月22日にarXivへ投稿され、識別子はarXiv:2610.31971である。