カウンターパーティモデリングは戦略にあらず：LLM交渉者の限界

人工知能の分野において、交渉知能は常に研究のホットトピックです。最近、arXivに投稿された論文（番号2605.16575）では、大規模言語モデル（LLM）が多属性交渉環境でどのように振る舞うかが詳細に調査されました。Romain Cosentino氏を含む4人の研究者からなるチームは、LLMエージェントが相手の選好を推測するだけでなく、その情報を戦略的な駆け引きに活用できるかどうかを検証するための統制実験を設計しました。

実験の結果、現在のLLMエージェントは相手の選好を正確にモデル化できることが示されました。実際、推論の初期段階でその情報を捉えることができます。しかし、驚くべきことに、この能力は情報を持つ側の交渉結果を有意に改善しませんでした。ターンレベルの分析により、その理由が明らかになりました：エージェントは相手が重視する価値に応じて反応することは多いものの、その動きを自身の高価値属性での利益と一貫して結びつけることができていません。具体的には、売り手側は全般的に譲歩的であり、非対称情報条件下では、情報を持つ側が自身の高価値属性で譲歩し、弱い補償を受ける傾向がありました。

エージェントがこのような効用構造を戦略的利益のために活用できないため、最終的な合意は実際の効用重みではなく、表面的な初期提示額に大きく左右されました。さらに、研究者はエージェントにオファーを出す前に「譲歩と互恵の交換」を明示的に述べるよう要求する介入を試みました。この要求により個々のターンはより戦略的に見えるようになりましたが、最終合意の効率性を向上させるには至りませんでした。

この研究の重要性は、LLMが交渉タスクにおいて抱える重要な欠陥——モデリングは戦略にあらず——を明らかにした点にあります。人工知能が人間の意図を理解する点で大きな進歩を遂げたとはいえ、特に複数回のやり取りと多次元の利益が絡む複雑な交渉において、その理解を実際の行動に転換することは依然として大きな課題です。本論文の発見は、より戦略的なAI交渉システムの開発に向けた重要な指針を提供しています。