大语言模型(LLM)智能体正越来越多地代表个人和组织参与协商,但在重复性的多方互动中,它们仍然容易受到操纵。经典多智能体系统通过显式的信任与声誉模型来应对这一问题,而现有关于 LLM 协商的研究大多把信任视为一种涌现现象。由 Amit Sarker 等四位作者提交的论文《Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation》专门考察:LLM 智能体能否从以往互动中形成有用的信任估计,并利用这些估计改善未来的协商结果。
为了回答这个问题,作者引入了一个重复、多方、多议题的协商框架。在该框架中,若干反复出现的智能体参与一系列协商博弈,而其中一名参与者会暗中试图阻止达成协议。每轮博弈结束后,智能体会评估其他参与者,并维护两两之间的信任估计,这些估计会延续到后续协商中。研究者比较了“信任感知”智能体与“信任不可知”智能体,并分析显式信任如何影响协商结果。
实验结果揭示了一个被称为“信任—协议落差”的现象:信任感知智能体确实能在几轮博弈内识别出恶意对手,但准确的信任估计并不总能稳定地转化为更好的协议。也就是说,知道谁不可信,并不等于知道如何在协商中据此行动。信任最多可将协议率提升23个百分点,但前提是智能体被明确引导在决策中使用信任信息。
作者由此得出结论:显式信任可以改善重复性 LLM 协商,但其价值关键取决于信任如何被评估,以及如何被纳入智能体的推理过程。这一发现对设计代表人类参与复杂协商的 LLM 智能体具有直接意义:仅仅构建信任模型还不够,系统还需要把信任估计与协商策略、决策流程更紧密地结合起来。该论文属于人工智能(cs.AI)方向,同时涉及计算与语言(cs.CL)和多智能体系统(cs.MA),于2026年10月22日提交至 arXiv,编号为 arXiv:2610.31971。