大語言模型(LLM)智能體正越來越多地代表個人和組織參與協商,但在重複性的多方互動中,它們仍然容易受到操縱。經典多智能體系統通過顯式的信任與聲譽模型來應對這一問題,而現有關於 LLM 協商的研究大多把信任視為一種湧現現象。由 Amit Sarker 等四位作者提交的論文《Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation》專門考察:LLM 智能體能否從以往互動中形成有用的信任估計,並利用這些估計改善未來的協商結果。
為了回答這個問題,作者引入了一個重複、多方、多議題的協商框架。在該框架中,若干反覆出現的智能體參與一系列協商博弈,而其中一名參與者會暗中試圖阻止達成協議。每輪博弈結束後,智能體會評估其他參與者,並維護兩兩之間的信任估計,這些估計會延續到後續協商中。研究者比較了“信任感知”智能體與“信任不可知”智能體,並分析顯式信任如何影響協商結果。
實驗結果揭示了一個被稱為“信任—協議落差”的現象:信任感知智能體確實能在幾輪博弈內識別出惡意對手,但準確的信任估計並不總能穩定地轉化為更好的協議。也就是説,知道誰不可信,並不等於知道如何在協商中據此行動。信任最多可將協議率提升23個百分點,但前提是智能體被明確引導在決策中使用信任信息。
作者由此得出結論:顯式信任可以改善重複性 LLM 協商,但其價值關鍵取決於信任如何被評估,以及如何被納入智能體的推理過程。這一發現對設計代表人類參與複雜協商的 LLM 智能體具有直接意義:僅僅構建信任模型還不夠,系統還需要把信任估計與協商策略、決策流程更緊密地結合起來。該論文屬於人工智能(cs.AI)方向,同時涉及計算與語言(cs.CL)和多智能體系統(cs.MA),於2026年10月22日提交至 arXiv,編號為 arXiv:2610.31971。