跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

僅僅知道該信任誰還不夠:重複多方可信協商中的信任—協議落差

文章摘要

一篇新論文研究大語言模型(LLM)智能體能否在重複多方協商中形成並利用信任估計。結果顯示:信任感知智能體能在幾輪內識別出惡意對手,但準確的信任估計並不總能轉化為更好的協議;只有明確引導智能體在決策中使用信任時,協議率才最多提升23個百分點。

來源arXiv AI作者: Amit Sarker, Moumita Choudhury, Saaduddin Mahmud, Shlomo Zilberstein
僅僅知道該信任誰還不夠:重複多方可信協商中的信任—協議落差
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

大語言模型(LLM)智能體正越來越多地代表個人和組織參與協商,但在重複性的多方互動中,它們仍然容易受到操縱。經典多智能體系統通過顯式的信任與聲譽模型來應對這一問題,而現有關於 LLM 協商的研究大多把信任視為一種湧現現象。由 Amit Sarker 等四位作者提交的論文《Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation》專門考察:LLM 智能體能否從以往互動中形成有用的信任估計,並利用這些估計改善未來的協商結果。

為了回答這個問題,作者引入了一個重複、多方、多議題的協商框架。在該框架中,若干反覆出現的智能體參與一系列協商博弈,而其中一名參與者會暗中試圖阻止達成協議。每輪博弈結束後,智能體會評估其他參與者,並維護兩兩之間的信任估計,這些估計會延續到後續協商中。研究者比較了“信任感知”智能體與“信任不可知”智能體,並分析顯式信任如何影響協商結果。

實驗結果揭示了一個被稱為“信任—協議落差”的現象:信任感知智能體確實能在幾輪博弈內識別出惡意對手,但準確的信任估計並不總能穩定地轉化為更好的協議。也就是説,知道誰不可信,並不等於知道如何在協商中據此行動。信任最多可將協議率提升23個百分點,但前提是智能體被明確引導在決策中使用信任信息。

作者由此得出結論:顯式信任可以改善重複性 LLM 協商,但其價值關鍵取決於信任如何被評估,以及如何被納入智能體的推理過程。這一發現對設計代表人類參與複雜協商的 LLM 智能體具有直接意義:僅僅構建信任模型還不夠,系統還需要把信任估計與協商策略、決策流程更緊密地結合起來。該論文屬於人工智能(cs.AI)方向,同時涉及計算與語言(cs.CL)和多智能體系統(cs.MA),於2026年10月22日提交至 arXiv,編號為 arXiv:2610.31971。

展開要點與分析

文章情報

工程師進階

要點

  • 論文提出一個重複、多參與方、多議題的協商框架,其中一名參與者暗中阻撓達成協議。
  • 信任感知智能體能在少量輪次內識別出 adversaries,但信任估計的準確性與最終協議質量之間存在“信任—協議落差”。
  • 明確指導智能體在決策中利用信任估計,可將協議率最多提升23個百分點。
  • 信任的價值取決於如何評估信任以及如何將信任納入智能體的推理過程。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。