神话之后的红队测试——Zico Kolter与Matt Fredrikson, Gray Swan

在本期节目中，Gray Swan联合创始人Zico Kolter和Matt Fredrikson解释了为什么AI安全不仅仅是“带AI的网络安全”，为什么代理引入了新的漏洞类型，以及为什么下一次重大AI事件可能是一只灰天鹅：不太可能，但在发生之前清晰可见。他们讨论了提示注入、自动化红队测试、模型鲁棒性、代理身份、以及新兴的AI保险/合规体系。