AI News HubLIVE
站内改写2 分钟阅读

Anthropic 自食其果?

美国政府对 Anthropic 实施出口管制,禁止其向外国人提供最新模型。本文作者认为,这是 Anthropic CEO Dario Amodei 此前呼吁政府监管 AI 的直接结果,并指出 Anthropic 多年推动监管,如今面临自身制定规则的后果。

来源Hacker News AI作者: ad8e

上周五,美国政府发布出口管制指令,禁止 Anthropic 向外国公民提供其最新模型 Claude Fable 和 Claude Mythos。这一举动看似突然,但作者 SE Gyges 指出,Anthropic 实际上是自食其果——其 CEO Dario Amodei 几天前刚发表了一份名为《AI 指数政策》的声明,呼吁政府拥有阻止或延缓高风险 AI 模型部署的权力。

Amodei 在声明中写道:“政府应当有权,在第三方评估确定模型存在不可接受风险时,阻止或延缓其部署。这一权力必须限定于四种特定风险,并要有防护措施防止政治偏袒或任意决策。”这四种风险包括网络安全、生物武器、AI 失控以及可能加速其他风险的自动化研发。作者逐一比对了 Amodei 的提议与实际发生的情况:政府确实阻止了 Anthropic 模型的部署;评估由 Amazon 进行,后者是值得信赖的政府承包商;评估认定该模型构成网络安全风险;至于防政治偏袒的措施,作者认为现有法律体系(法院)已足够,而 Anthropic 从未提出需要更多保护。因此,作者断言,Anthropic 逐字逐句地得到了他们要求的东西。

Anthropic 在监管问题上的立场并非一时兴起。作者指出,该公司多年来一直积极推动 AI 监管,即使在他人警告政府可能滥用权力时也毫不动摇。他们持续向政府推销服务,并通过 Palantir 和 Amazon 等中间商合作。作者认为,Anthropic 原本设想这些规则适用于其他人,尤其是开源项目和学术界,如今自己却成了目标,因此感到不满。

关于这次行动是否出于政治动机,作者承认有一定可能,但与今年早些时候 War Department 试图扼杀 Anthropic 的笨拙政治行为不同,这次出口管制是由财政部长 Bessent 协商的,属于美国政府明确的权力范围。更关键的是,Anthropic 自身的大量公开声明——包括 Amodei 的言论——都强调其模型对国家安全的重要性,并认为应由政府监管。这些声明在法庭上可能成为不利于 Anthropic 的证据。

作者并不完全赞同此次政府行动,他认为当前美国政府可能缺乏治理激进新技术的能力。但他强调,如果公司无法依靠现有机构管理其技术,就必须自行设计应对方案,而不能一味指望政府或社会来解决。总之,作者认为 Anthropic 的公开立场与实际行动是一致的,他们要求的监管最终落到了自己头上,这是他们应得的教训。