AIレッドチームエージェントがLLMテストを変革

LLMの敵対的テストツールは急増したが、オペレーターがすべてを把握するのは困難になりつつある。新たなAIエージェントは攻撃戦略の選択、変換の構成、テスト実行を自律的に行い、効率を大幅に向上させる。Dreadnodeの研究では、エージェントが約3時間でMetaのLlama Scoutに対して674回の攻撃を実行し、成功率85%を達成した。ただし、カバレッジの制約、エージェント自身のアライメントによる拒否、人間専門家との正式な比較が未実施などの限界がある。