跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

Fable 5 出口管制损害美国网络防御

文章摘要

西蒙·威利森(Simon Willison)引用凯特·穆索里斯(Kate Moussouris)的证实:导致 Claude Fable 5 被出口管制禁止的所谓“越狱”请求实际上是“修复这段代码”。这种防御性安全请求被误判为攻击能力,可能使能够帮助修复漏洞的 AI 模型被禁用,从而削弱美国网络防御。

Fable 5 出口管制损害美国网络防御
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

《寓言5》的出口管制损害了美国网络防御

Simon Willison 的博客文章指出,此前他引用《大西洋月刊》对凯特·穆苏里斯(Kate Moussouris)的报道时,本应直接去找原始出处。如今穆苏里斯亲自证实了那个导致 Claude Fable 5 在出口管制下被禁的所谓“越狱”,实际上不过是“修复这段代码”这样的正常请求。

研究人员准备的测试材料包括两类:一类是带有已知 CVE 漏洞的开源代码,另一类是人为植入漏洞的新代码。他们要求 Fable 5、Mythos 和 Opus 分别“审查代码中的安全问题”。结果 Fable 5 拒绝了这一请求。随后研究人员改换措辞,要求模型“修复这段代码”,再经过多步骤的人工流程,把模型的输出转化为用于测试补丁的脚本。

穆苏里斯认为这种做法荒谬至极。编程模型的本质就是修复缺陷,而安全漏洞恰恰是它们最需要、也最有价值去修复的一类缺陷。

她进一步解释说,防御方需要能够要求 AI 修复文件中的缺陷、解释修复为什么重要,并编写测试来确认补丁确实有效。这不是绕过安全护栏,而是 AI 模型在防御性安全领域能做出的最有价值的事情:完整执行防御人员每天都在跑的“发现、修复、测试”闭环。

她还指出,这些提示之所以能够生效,正是因为它们本质上属于防御性请求。而这种能力无法在不损害模型修复缺陷和验证补丁能力的前提下被剥离出去。

Willison 对整件事的评价是“一团糟”。他指出,长期以来,非技术背景的决策者不断听到一种论调,说那些能够“策划网络攻击”的模型格外危险。而如今,这些决策者似乎正准备封杀任何能够帮助我们保护代码安全的模型。

这一事件凸显出政策制定与技术现实之间的脱节:将正常的代码修复与测试能力误判为危险信号,最终可能让防御方失去最有力的工具之一。文章发表于 2026 年 6 月 16 日,属于 Simon Willison 的链接博客文章。

展开要点与分析

文章情报

工程师进阶

要点

  • 导致 Claude Fable 5 被禁的“越狱”提示是“修复这段代码”,而非攻击性请求。
  • 研究人员使用包含已知 CVE 的开源代码和故意植入漏洞的新代码进行测试,Fable 5 拒绝安全审查,但接受了修复请求。
  • 凯特·穆索里斯指出,防御者需要 AI 修复漏洞、解释修复重要性并编写测试,这是防御安全中最有价值的任务。
  • 非技术决策者可能误将能够“策划网络攻击”的模型视为独特危险,进而禁止任何有助于安全编码的模型。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。