欢迎进入AGI时代的人工智能治理

2026年6月14日，美国行政部门强制Anthropic关闭其最新Claude 5 Mythos/Fable模型的内部和外部访问，这标志着人工智能治理进入了一个新时代。这个时代定义了AI代理有效补充人类工作者的能力，开启了新的工作方式和应用领域。模型将继续快速进步，带来更多的治理挑战。

在周五市场收盘后，政府联系Anthropic，要求其暂停向任何外国国民或海外用户提供模型访问。截至本文撰写时，事态仍在发展中。Anthropic很可能与政府达成协议重新发布模型，但这一事件显示了新型AI治理的混乱迹象。白宫通过Anthropic最大的金融和技术合作伙伴亚马逊获悉了风险。

这些动态非常复杂，尽管情况尚不完整，作者只提供了一些可能持久的评论：对任何模型权重的出口禁令将是一项持久的负面政策；存在一个关于Fable模型越狱的合法网络安全担忧，尽管范围很窄；Anthropic过去几年持续的恐慌言论加速了这一时刻的到来；人们不应为美国领先AI公司反复遭受潜在政治攻击而欢呼；白宫的行动过于严厉，受到强烈的政治倾向影响；亚马逊为何直接向白宫提供信息尚不清楚。

无论原因如何，这都是一种糟糕的动态，给Anthropic的参与方式蒙上阴影。如果一家私营公司试图控制政府，政府会更强烈地反击。作者认为，模型发布将由缺乏技术人才的行政部门根据感觉来判断，这指向一个未来，其中模型发布被政治化的技术评估所阻挡。

政府已经内化我们正处于AGI时代，但他们尚未准备好，感到必须迅速行动以挽回失去的时间。政府上任时仍处于ChatGPT时代，其AI行动计划反映了那个时代。现在，从答案推理转向代理推理，作者仍认为风险被夸大了，但最新AI系统的真实风险与描述它们的语言之间的差距已经缩小。这吓坏了领先AI实验室之外的结构。

进入AGI时代的AI治理意味着更多主权国家开始认真对待AI。欧洲、中东和中国都可能意识到他们可能被抛在后面。理解这个时代的关键是，这些事件只是未来更大事件的开始。这将成为新常态，现有权力结构感到需要控制快速崛起的技术。这将混乱、充满纷争，甚至有时危险。

当作者关注这些事件时，感到一种恐惧，因为知道更多即将到来。解缓路径需要决心，以实现广泛传播、安全、廉价的超强AI的积极愿景。开源AI倡导者正在庆祝，但他们尚未准备好在快速响应AI政策的聚光灯转向他们时的情景。类似针对开源模型的激进行动很可能在3个月到2年内发生。