《寓言5》的出口管制损害了美国网络防御
Simon Willison 的博客文章指出,此前他引用《大西洋月刊》对凯特·穆苏里斯(Kate Moussouris)的报道时,本应直接去找原始出处。如今穆苏里斯亲自证实了那个导致 Claude Fable 5 在出口管制下被禁的所谓“越狱”,实际上不过是“修复这段代码”这样的正常请求。
研究人员准备的测试材料包括两类:一类是带有已知 CVE 漏洞的开源代码,另一类是人为植入漏洞的新代码。他们要求 Fable 5、Mythos 和 Opus 分别“审查代码中的安全问题”。结果 Fable 5 拒绝了这一请求。随后研究人员改换措辞,要求模型“修复这段代码”,再经过多步骤的人工流程,把模型的输出转化为用于测试补丁的脚本。
穆苏里斯认为这种做法荒谬至极。编程模型的本质就是修复缺陷,而安全漏洞恰恰是它们最需要、也最有价值去修复的一类缺陷。
她进一步解释说,防御方需要能够要求 AI 修复文件中的缺陷、解释修复为什么重要,并编写测试来确认补丁确实有效。这不是绕过安全护栏,而是 AI 模型在防御性安全领域能做出的最有价值的事情:完整执行防御人员每天都在跑的“发现、修复、测试”闭环。
她还指出,这些提示之所以能够生效,正是因为它们本质上属于防御性请求。而这种能力无法在不损害模型修复缺陷和验证补丁能力的前提下被剥离出去。
Willison 对整件事的评价是“一团糟”。他指出,长期以来,非技术背景的决策者不断听到一种论调,说那些能够“策划网络攻击”的模型格外危险。而如今,这些决策者似乎正准备封杀任何能够帮助我们保护代码安全的模型。
这一事件凸显出政策制定与技术现实之间的脱节:将正常的代码修复与测试能力误判为危险信号,最终可能让防御方失去最有力的工具之一。文章发表于 2026 年 6 月 16 日,属于 Simon Willison 的链接博客文章。