AI红队测试代理改变LLM测试方式

近年来，LLM对抗性测试工具激增，但操作者难以掌握所有技术。新型AI代理可自主选择攻击策略、组合变换、执行测试并生成结构化结果，大幅提升效率。Dreadnode的研究显示，其代理在约3小时内对Meta的Llama Scout执行了674次攻击，成功率达85%。然而，该方法存在局限性：覆盖范围有限、代理自身对齐约束可能阻碍某些测试，且尚未与人类专家进行正式比较。