在一篇提交至FSE 2026的论文中,研究人员Mohd Sameen Chishti、Damilare Peter Oyinloye和Jingyue Li提出了AgentReputation,一种用于去中心化智能AI系统的三层信誉框架。随着去中心化智能体市场的快速发展,这些市场支持调试、补丁生成和安全审计等软件工程任务,且通常缺乏中央监督。然而,现有信誉机制面临三个根本挑战:智能体可能针对评估程序进行策略性优化;已证明的能力无法在异构任务环境中可靠迁移;验证的严格程度差异巨大,从轻量级自动检查到昂贵的专家评审不等。当前的联邦学习、基于区块链的AI平台以及大语言模型安全研究等方法无法综合应对这些挑战。
AgentReputation框架通过将任务执行、信誉服务和防篡改持久化分离为独立层来解决这些问题。这种设计既发挥了各层的优势,又允许它们独立演进。框架引入了与智能体信誉元数据相关联的明确验证制度,以及上下文条件信誉卡,防止跨领域和任务类型的信誉混淆。此外,AgentReputation提供了一个面向决策的策略引擎,支持基于风险和不确定性的资源分配、访问控制和自适应验证升级。研究团队还概述了未来方向,包括验证本体开发、验证强度量化方法、隐私保护证据机制、冷启动信誉引导以及对抗性操纵防御。该论文已被FSE 2026的“想法、愿景与反思”轨道接收,全文共5页,包含1张图表。