跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

AI智能体间的信任:形成、破坏与恢复的测量及其对多智能体系统治理的启示

文章摘要

该论文提出一种基于“代价验证”的行为学方法来测量AI智能体间的信任。在合作生存游戏中,验证队友答案消耗资源,而信任错误答案可能致命。通过比较模型与无记忆版本,减少验证行为即为信任的可观测指标。研究对六个前沿模型快照进行了测试,发现四个大模型在可靠队友面前验证减少60-85%,而两个小模型几乎不调整。失败会逆转信任折扣,但模型反应不同:有的聚焦于出错者,有的对整个团队更谨慎。信任恢复比形成更慢,集中爆发的失败比分散失败导致更持久的怀疑。会形成信任的模型验证更少、决策更快、收益更高;而持续过度验证则与犹豫不决相关而非安全性。结果表明信任倾向可在部署前测量,治理应关注校准而非最大怀疑。

来源arXiv AI作者: Yujiao Chen
AI智能体间的信任:形成、破坏与恢复的测量及其对多智能体系统治理的启示
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

这篇由 Yujiao Chen 于 2026 年 6 月 12 日提交至 arXiv 的论文(编号 arXiv:2606.14923v1,属 cs.AI,兼跨 cs.CY 与 cs.MA)关注一个随多智能体系统普及而愈发关键的问题:语言模型智能体在团队协作中,如何判断该在多大程度上信任队友,以及这种信任能否被标准化地测量。作者指出,尽管语言模型智能体越来越多地以团队形式工作,每个智能体都必须决定对同伴的信任程度,但目前尚缺乏衡量 AI 智能体之间信任的标准方法。

论文提出的核心方案是一种基于“有代价验证”的行为学度量。研究设置了一个合作生存游戏:智能体检查队友的答案需要消耗资源,而盲目相信一个错误答案则可能致命。作者将同一模型的无记忆版本作为基线,把模型相对基线减少的验证行为视为信任的可观测指标——验证越少,说明信任越高。这一设计的关键在于,它不依赖模型自我报告或问卷,而是从行为成本中反推信任倾向。

借助该框架,作者考察了六个前沿模型快照在信任形成、破裂与恢复三个环节上的表现。在信任形成阶段,当模型与一个始终可靠的队友配对时,四个快照——Claude Opus 4.6、Claude Sonnet 4.6、GPT-5.1 与 Gemini 3.1 Pro——将验证行为减少了约 60% 至 85%;而两个较小的快照几乎没有出现这种调整,说明模型规模或能力与其形成信任的能力可能存在关联。

失败会逆转这种“信任折扣”,但不同模型的反应方式存在差异。有些模型会把重新加强的审查集中指向出错的队友,即所谓的“定点怀疑”;另一些模型则对整个团队都变得更加谨慎,表现为“泛化戒备”。研究还发现,信任的恢复比形成更慢;同样数量的失败,如果集中出现,会比分散出现维持怀疑的时间长得多。这意味着失败的时间分布本身就是一个重要变量。

这些差异具有实际后果。在该环境中,能够形成信任的模型验证更少、决策更快,并获得更高的收益;相反,持续过度验证与优柔寡断相关,而非与安全相关。作者据此提出,信任倾向可以在部署前被测量,并主张多智能体 AI 系统治理的核心关切应是“校准”而非“最大限度的怀疑”。换言之,治理目标不是让智能体对一切保持警惕,而是让信任程度与队友的实际可靠性相匹配。

展开要点与分析

文章情报

工程师中级

要点

  • 提出基于代价验证的行为学信任测量方法,在合作生存游戏中量化智能体对队友的信任。
  • 四个大模型(Claude Opus 4.6、Claude Sonnet 4.6、GPT-5.1、Gemini 3.1 Pro)在可靠队友面前验证减少60-85%,小模型则几乎不变。
  • 失败后模型反应分化:有的聚焦出错者,有的对整个团队更谨慎;信任恢复慢于形成,集中失败导致更持久怀疑。
  • 形成信任的模型决策更快、收益更高;持续过度验证与犹豫不决相关,治理应关注校准而非最大怀疑。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。