跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

仅仅知道该信任谁还不够:重复多方可信协商中的信任—协议落差

文章摘要

一篇新论文研究大语言模型(LLM)智能体能否在重复多方协商中形成并利用信任估计。结果显示:信任感知智能体能在几轮内识别出恶意对手,但准确的信任估计并不总能转化为更好的协议;只有明确引导智能体在决策中使用信任时,协议率才最多提升23个百分点。

来源arXiv AI作者: Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein
仅仅知道该信任谁还不够:重复多方可信协商中的信任—协议落差
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

大语言模型(LLM)智能体正越来越多地代表个人和组织参与协商,但在重复性的多方互动中,它们仍然容易受到操纵。经典多智能体系统通过显式的信任与声誉模型来应对这一问题,而现有关于 LLM 协商的研究大多把信任视为一种涌现现象。由 Amit Sarker 等四位作者提交的论文《Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation》专门考察:LLM 智能体能否从以往互动中形成有用的信任估计,并利用这些估计改善未来的协商结果。

为了回答这个问题,作者引入了一个重复、多方、多议题的协商框架。在该框架中,若干反复出现的智能体参与一系列协商博弈,而其中一名参与者会暗中试图阻止达成协议。每轮博弈结束后,智能体会评估其他参与者,并维护两两之间的信任估计,这些估计会延续到后续协商中。研究者比较了“信任感知”智能体与“信任不可知”智能体,并分析显式信任如何影响协商结果。

实验结果揭示了一个被称为“信任—协议落差”的现象:信任感知智能体确实能在几轮博弈内识别出恶意对手,但准确的信任估计并不总能稳定地转化为更好的协议。也就是说,知道谁不可信,并不等于知道如何在协商中据此行动。信任最多可将协议率提升23个百分点,但前提是智能体被明确引导在决策中使用信任信息。

作者由此得出结论:显式信任可以改善重复性 LLM 协商,但其价值关键取决于信任如何被评估,以及如何被纳入智能体的推理过程。这一发现对设计代表人类参与复杂协商的 LLM 智能体具有直接意义:仅仅构建信任模型还不够,系统还需要把信任估计与协商策略、决策流程更紧密地结合起来。该论文属于人工智能(cs.AI)方向,同时涉及计算与语言(cs.CL)和多智能体系统(cs.MA),于2026年10月22日提交至 arXiv,编号为 arXiv:2610.31971。

展开要点与分析

文章情报

工程师进阶

要点

  • 论文提出一个重复、多参与方、多议题的协商框架,其中一名参与者暗中阻挠达成协议。
  • 信任感知智能体能在少量轮次内识别出 adversaries,但信任估计的准确性与最终协议质量之间存在“信任—协议落差”。
  • 明确指导智能体在决策中利用信任估计,可将协议率最多提升23个百分点。
  • 信任的价值取决于如何评估信任以及如何将信任纳入智能体的推理过程。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。