AI紅隊測試代理改變LLM測試方式

近年來，LLM對抗性測試工具激增，但操作者難以掌握所有技術。新型AI代理可自主選擇攻擊策略、組合變換、執行測試並生成結構化結果，大幅提升效率。Dreadnode的研究顯示，其代理在約3小時內對Meta的Llama Scout執行了674次攻擊，成功率達85%。然而，該方法存在侷限性：覆蓋範圍有限、代理自身對齊約束可能阻礙某些測試，且尚未與人類專家進行正式比較。