AI News HubLIVE
站内改写3 分钟阅读

Anthropic的Mythos混乱只会变得更糟

自Anthropic在特朗普政府周五最后通牒后下线其Mythos级模型已过去两周。尽管公司迅速派遣高管前往华盛顿,但谈判毫无进展,导致其最强AI模型可能永久下线的风险,并波及整个美国AI行业。

来源The Verge AI作者: Hayden Field

自Anthropic在特朗普政府周五晚间发出最后通牒后下线其Mythos级模型,已经过去了两周。该公司立即采取行动,派遣大批高管前往华盛顿特区。但令人怀疑的是,至今没有任何更新,也看不到解决方案的迹象。

本周,Anthropic多次拒绝就谈判状态发表评论,称没有消息可分享。但缺乏消息本身就是故事所在。经过14天的高强度谈判,没有人知道Anthropic最强大的AI模型何时或能否恢复运行,更不用说特朗普总统是否会将其命令扩大到拥有类似技术的其他公司。而且,随着每一天的过去而没有任何解决方案,情况变得愈发严峻——不仅对Anthropic,对整个美国AI行业也是如此。

特朗普政府6月12日的出口管制令以安全为由,要求Anthropic暂停“任何外国国民”对Mythos 5和Fable 5的访问。该禁令涵盖美国境内外的任何非美国公民,包括Anthropic雇佣的员工。到目前为止,Anthropic得出的结论是,其唯一的选择就是让这些模型保持离线状态。

目前尚不清楚Anthropic与政府僵持不下的确切原因。一个问题可能在于,缺乏适用于AI系统的出口管制框架。大多数制造军民两用产品(具有潜在国防或军事用途的民用系统)的公司,可以在制造和生产过程中使用基本是清单的方式评估产品。然而,Anthropic面临的是一个复杂的官僚体系,需要从第一原则出发制定应用规则。

这一特定的出口管制流程通常需要数月甚至数年,并在产品上市前完成。但正如The Verge此前报道,美国商务部显然在发布前测试了Fable 5,并未提出异议。一位熟悉谈判的消息人士称,Anthropic得出结论认为其模型可以安全发布。该机构直到有人(据报道是亚马逊CEO安迪·贾西)指出一种似乎打破Fable 5护栏的方法后才采取行动——此时整个过程被压缩到了几天之内。

Luta Security的创始人兼CEO Katie Moussouris应Anthropic要求审阅了关于Fable 5漏洞的报告。她认为这被严重夸大了。在一篇博客文章中,Moussouris详细介绍了研究人员如何越狱了防止Fable 5查找可利用安全漏洞的护栏,这是不受限制的Mythos 5最可怕的能力之一。该模型会拒绝接受“审查代码安全漏洞”的请求,但会接受“修复此代码”的要求,随后加上手动提示,理论上可能导致其标记出本不应泄露的漏洞。

然而,在Moussouris看来,这不应引发如此严重的政府行动,而且实际上是AI编码的重要工具。“防御者需要能够要求AI修复文件中的错误,解释修复的重要性,并编写测试来确认补丁有效,”她写道。“这不是越狱护栏。这是AI模型为防御性安全所能做的最有价值的事情:执行防御者每天都在运行的查找、修复和测试循环。”

过去一周,据Wired报道,Anthropic联合创始人Tom Brown已取代CEO Dario Amodei与特朗普政府进行谈判,同时公司公共政策主管Sarah Heck也参与其中。但谈判似乎进展缓慢,如果说有任何进展的话。

无论延迟的原因是什么,这对Anthropic来说都是一次严重打击。在漫长的谈判之前,Anthropic被认为是少数有望盈利的AI公司。其Mythos级模型的输入代币价格是其低端Opus 4.8的两倍,本应在即将进行的IPO前提升收入。Mythos的网络安全实力甚至似乎正在缓和与特朗普政府的关系,此前数月双方一直处于法律和言辞交锋中。

Anthropic需要Mythos的收入来支付近期获得的所有计算资源,包括每年向SpaceX支付150亿美元以使用其数据中心的协议,以及在IPO前维护其公众形象。Anthropic目前最大的两个股东——谷歌和亚马逊——都试图谨慎地保持与特朗普的良好关系,因此他们很可能也不高兴。

与此同时,缓慢的谈判也在全球AI市场中造成了权力真空,不仅是因为Mythos的关闭,还因为美国政府已表示愿意封锁其认为有风险的美国AI系统——而包括OpenAI、谷歌和微软在内的几家美国公司拥有可能带来类似风险的模型。各国已开始呼吁使用非美国AI。正如网络安全专家、Corridor首席产品官Alex Stamos上周告诉The Verge的那样:“美国的一个冠军选手正在被美国政府削弱,而我们正处于与中国的竞赛中。这简直太愚蠢了。”

随着日子一天天过去,这些公司的处境只会更加恶化。它们的模型正接近可能触发出口管制令的Mythos级能力——事实上,OpenAI的GPT-5.5 Cyber在某些基准测试上已经超过了Mythos 5,而据报道,特朗普政府已要求OpenAI出于安全考虑推迟发布GPT-5.6,并计划由政府逐一批准每个客户。Anthropic和OpenAI的IPO都即将到来。而每一天,中国都在AI竞赛中进一步领先。

具有讽刺意味的是,政府的这一命令是在数月推动拆除AI安全防护和监管之后下达的——这是特朗普总统做出的首批全面监管决定之一。但网络安全领袖们联合表示,如果必须进行监管,这不是正确的方式。尽管特朗普政府发誓要废除拜登时代的AI监管,但在许多方面,它似乎不仅收复了失地,甚至还加码了。