跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

RIFT-Bench:面向智能体AI系统的动态红队测试框架

文章摘要

RIFT-Bench 是一种基于图表示的动态红队测试方法,旨在对异构智能体AI系统进行统一安全评估。它通过发现和扫描两个自动化阶段,提取系统结构并部署自适应对抗攻击,已在对45个系统的测试中证明其泛化能力,并支持对缓解策略的直接评估。

来源arXiv AI作者: Yarin Yerushalmi Levi, Roy Betser, Amit Giloni, Lidor Erez, Itay Gershon, Oren Rachmil, Sindhu Padakandla, Roman Vainshtein
RIFT-Bench:面向智能体AI系统的动态红队测试框架
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

由大型语言模型(LLM)驱动的智能体AI系统正快速演进为能够自主决策的系统,这类系统所暴露的攻击面已超出传统LLM漏洞的范畴。现有的安全评估往往与特定实现或领域绑定,难以在异构系统之间进行统一比较。为填补这一空白,研究人员提出了一种名为RIFT-Bench的方法论,它由图表征驱动,用于动态红队测试,可在多种智能体架构之间实现统一评估。该论文题为《RIFT-Bench: Dynamic Red-teaming For Agentic AI Systems》,于2026年6月22日提交至arXiv,编号为2606.23927,属于cs.AI(人工智能)分类,目前为预印本状态。作者为Yarin Yerushalmi Levi等共8人,提交人为Roy Betser。

RIFT-Bench建立在一个新颖的分层表征之上,整个流程由两个自动化阶段组成:第一阶段为“发现”(Discovery),负责提取被测系统的结构信息;第二阶段为“扫描”(Scanning),负责部署自适应对抗性攻击并生成一份全面的评估报告。与那些只关注模型输出、或依赖特定实现细节的评估方式不同,RIFT-Bench直接评估被检查的系统本身,借助一组覆盖面广、可动态调整的对抗性探针,针对多种攻击向量和攻击目标展开测试。这种设计使其能够在不同架构之间保持可比性,从而支持跨异构智能体系统的统一安全评估。

为验证效果,研究团队在45个智能体系统上运行了这套评估流程,这些系统涵盖了多种不同的实现方式。结果表明,该方法能够有效泛化到异构的智能体架构之上,说明其并不依赖于某一特定框架或领域。除了评估系统和攻击之外,RIFT-Bench还支持对缓解策略进行直接评估,这意味着它不仅能发现问题,也能用于检验各类防护措施的实际效果。作者认为,这些关键能力使RIFT-Bench成为面向智能体AI系统安全评估的一个可扩展基础。

从时间线看,该论文于2026年6月22日(周一)20:46:56 UTC提交,版本为v1,文件大小约4,698 KB,DOI为10.48550/arXiv.2606.23927,由DataCite发放(注册尚待完成)。论文以预印本形式发布,尚未经过同行评审,因此其结论仍需后续独立验证。尽管如此,它针对当前智能体安全评测碎片化的问题提出了一个通用框架,对关注自主决策系统安全的研究者与工程团队具有参考价值。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出基于分层图表示的动态红队测试框架,实现跨异构智能体架构的统一安全评估
  • 自动化两阶段流程:发现阶段提取系统结构,扫描阶段部署自适应对抗攻击并生成综合报告
  • 在45个智能体系统上验证了方法的有效性,证明其能泛化至多种实现
  • 除攻击外,还支持对缓解策略的直接评估,为智能体安全提供可扩展的基础

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。