神話後のレッドチーミング — Zico Kolter & Matt Fredrikson, Gray Swan

このエピソードでは、Gray Swanの共同創業者であるZico KolterとMatt Fredriksonが、AIセキュリティは単なる「AIを使ったサイバーセキュリティ」ではなく、エージェントが新たな脆弱性をもたらす理由、そして次の大規模AIインシデントが「灰色の白鳥」となる可能性について説明します。プロンプトインジェクション、自動レッドチーミング、モデルの堅牢性、エージェントのアイデンティティ、そして新興のAI保険／コンプライアンススタックについて議論します。