由大型语言模型(LLM)驱动的智能体AI系统正快速演进为能够自主决策的系统,这类系统所暴露的攻击面已超出传统LLM漏洞的范畴。现有的安全评估往往与特定实现或领域绑定,难以在异构系统之间进行统一比较。为填补这一空白,研究人员提出了一种名为RIFT-Bench的方法论,它由图表征驱动,用于动态红队测试,可在多种智能体架构之间实现统一评估。该论文题为《RIFT-Bench: Dynamic Red-teaming For Agentic AI Systems》,于2026年6月22日提交至arXiv,编号为2606.23927,属于cs.AI(人工智能)分类,目前为预印本状态。作者为Yarin Yerushalmi Levi等共8人,提交人为Roy Betser。
RIFT-Bench建立在一个新颖的分层表征之上,整个流程由两个自动化阶段组成:第一阶段为“发现”(Discovery),负责提取被测系统的结构信息;第二阶段为“扫描”(Scanning),负责部署自适应对抗性攻击并生成一份全面的评估报告。与那些只关注模型输出、或依赖特定实现细节的评估方式不同,RIFT-Bench直接评估被检查的系统本身,借助一组覆盖面广、可动态调整的对抗性探针,针对多种攻击向量和攻击目标展开测试。这种设计使其能够在不同架构之间保持可比性,从而支持跨异构智能体系统的统一安全评估。
为验证效果,研究团队在45个智能体系统上运行了这套评估流程,这些系统涵盖了多种不同的实现方式。结果表明,该方法能够有效泛化到异构的智能体架构之上,说明其并不依赖于某一特定框架或领域。除了评估系统和攻击之外,RIFT-Bench还支持对缓解策略进行直接评估,这意味着它不仅能发现问题,也能用于检验各类防护措施的实际效果。作者认为,这些关键能力使RIFT-Bench成为面向智能体AI系统安全评估的一个可扩展基础。
从时间线看,该论文于2026年6月22日(周一)20:46:56 UTC提交,版本为v1,文件大小约4,698 KB,DOI为10.48550/arXiv.2606.23927,由DataCite发放(注册尚待完成)。论文以预印本形式发布,尚未经过同行评审,因此其结论仍需后续独立验证。尽管如此,它针对当前智能体安全评测碎片化的问题提出了一个通用框架,对关注自主决策系统安全的研究者与工程团队具有参考价值。