AI News HubLIVE
站内改写2 分钟阅读

MAGA权力斗争可能决定Anthropic的命运

Anthropic突然撤销了其最强大的AI模型Fable 5和Mythos 5的访问权限,原因是美国政府发布了出口管制指令。此前有报道称亚马逊CEO安迪·贾西向特朗普政府报告了模型的安全漏洞,但Anthropic CEO达里奥·阿莫代伊在电话会议上反驳了政府的担忧。这是特朗普政府第二次对Anthropic采取严厉法律行动。

来源Understanding AI作者: Timothy B. Lee

上周五,Anthropic震惊了人工智能界,宣布撤销对Claude Fable 5和Mythos 5的访问权限,这两个强大的模型仅仅在三天前才发布。Anthropic表示,政府“发布了一项出口管制指令,暂停任何外国国民(无论在美国境内还是境外)对Fable 5和Mythos 5的所有访问。”由于Anthropic没有办法限制仅美国人访问,这实际上等于对该技术实施了禁令。

Anthropic和美国政府都没有提供该命令的理由或法律依据的太多细节。但周末期间,多家新闻机构发表了描述周五公告前谈判过程的文章。最详细的是一篇Politico的文章,描述了一场“高层官员在24小时内疯狂努力,试图说服公司自愿撤回一款新发布的人工智能模型,官员们认为该模型存在安全风险。”

包括Politico和The Information在内的多家媒体报道称,亚马逊CEO安迪·贾西向特朗普政府通报了Anthropic顶级模型的潜在漏洞。亚马逊显然发现有可能绕过Fable的护栏,从而获取Anthropic自四月发布Claude Mythos预览版以来一直未向市场提供的一些强大的网络安全能力。

Politico报道称,在周五的电话会议中,Anthropic CEO达里奥·阿莫代伊“反驳了政府的担忧,辩护了护栏的安全性,并称发生的绕过行为是特定的,不会构成像更广泛越狱那样的风险。”Anthropic在周五宣布暂停Fable访问权限的帖子中也表达了类似观点:“目前还没有测试人员能够找到一种通用越狱方法——一种能够广泛绕过模型安全防护、解锁一系列网络能力的方法。”

但据Politico报道,高级行政官员没有被阿莫代伊的论点打动。他们对Anthropic最强大的模型实施了出口管制。这是特朗普政府第二次对Anthropic采取严厉的法律行动。今年二月,国防部将Anthropic列为供应链风险,实际上禁止军方以及某些军事承包商使用其模型。该行动至今仍在法庭上争执,一名联邦法官质疑政府的理由是否只是借口。

“管理法规中没有任何内容支持这种奥威尔式的观念,即一家美国公司仅仅因为表达与政府不同的意见,就可以被标榜为潜在的对手和破坏者,”法官Rita Lin在三月份的裁决中写道。

在我的播客AI Summer的最新一期中,法律学者Alan Rozenshtein告诉我,周五的出口禁令在法律上可能更有依据。“从法律角度看,政府所做的事情在表面上是合理的,”他在谈到周五的命令时说。“他们确实有这些出口管制,而且这些出口管制确实可以创造一种事实上的许可制度。”

因此,特朗普政府很可能有能力严重损害Anthropic,如果它愿意的话。大问题是特朗普是否想这样做。