2028：全球AI领导地位的两种情景

Anthropic近日发布了一篇题为《2028：全球AI领导地位的两种情景》的论文，阐述了该公司对中美AI竞争的看法。文章指出，美国及其盟友必须保持在AI领域的领先地位，因为AI技术很快将强大到足以以前所未有的规模压制公民，甚至改变国家间的力量平衡。由于AI发展日益迅速，我们只有有限的时间来设定竞争条件，并确定这些威胁是否会成为现实。

开发AI最重要的因素是获取用于训练模型的计算机芯片（即“算力”）。由于最先进的芯片由美国公司开发，美国政府目前通过严格的出口管制限制中国的供应。近期历史表明，这些管制非常成功。事实上，中国AI实验室之所以能构建接近美国水平的模型，全靠其人才、利用出口管制漏洞的能力，以及大规模蒸馏攻击——非法提取美国公司的创新成果。

文章提出了两种2028年的可能情景，届时预期变革性AI系统已经出现。第一种情景：美国成功捍卫了其算力优势。政策制定者进一步收紧出口管制，破坏中国的蒸馏攻击，并加速民主国家采用AI。在这个世界里，民主国家制定AI规则和规范，并且最有可能与中国在安全问题上成功合作。第二种情景：美国选择不采取行动。政策制定者未能堵住中国获得算力的漏洞，中国AI公司迅速利用这一点，赶超甚至超过美国。在这个世界里，AI规则由威权政权塑造，最先进的模型被用于大规模自动化镇压。即便这种威权胜利是建立在美国算力基础上的，也令人不安。

美国及其盟友在AI竞争中处于强势地位。AI主导权的工具是由民主国家中极具创新力的企业生态系统建造的。过去的成功意味着当前的任务主要是避免浪费优势：不让中国更容易追赶。

文章还详细阐述了保持领先的紧迫性。前沿AI预计将带来转型性的经济和社会影响，而转型的成功与否部分取决于最强大的系统首先在哪里建成。政治体系将塑造AI技术的规则和规范，进而决定技术是否安全、保护谁的安全、最终服务于谁的利益。Anthropic认为，这一责任应落在民选政府而非威权政权手中。

如果前沿AI由那些将AI视为镇压工具、军事优势来源和国内控制手段的政权设定，那么转型对本国公民和其他人来说都不太可能顺利。历史上，威权统治的触角受限于依赖人类执行者进行监控和镇压。强大的AI系统可能消除这种依赖，实现更大规模的自动化镇压。因此，中国在AI领域领先被视为成功转型的最大威胁之一。

中国已经利用AI系统审查言论、对少数民族实施严厉政策、入侵大型企业和政府机构。中国在新疆广泛部署面部识别、生物数据收集和通信监控，实现了人类无法单独达到的镇压规模。前沿AI将使这些能力更便宜、更普遍、更复杂。中国出口这些技术使其他国家的威权统治者更有效地压制异议，巩固威权主义。

AI是双重用途技术，将塑造未来军事平衡。中国军方已将“智能化”视为追赶并最终超越美军的手段。解放军已经在采购商业开发的AI系统用于军事，包括DeepSeek模型用于协调无人机群和网络攻击。这些能力不会缓慢扩散——当新模型获得自主瞄准、漏洞发现或蜂群协调等新能力时，控制它的政权可以在数周内将其投入战场。风险叠加，因为前沿AI将加速其他关键技术的研发周期，如半导体、生物技术和先进材料。在前沿AI上的领先将导致整个国家安全技术栈的扩大领先。

如果中国AI实验室在美国之前开发出达到Claude Mythos Preview水平的模型，中国将首先获得能够自主发现和链接软件漏洞的系统，可用于进一步渗透美国关键基础设施。未来模型的能力将呈指数级增长，对美国和其他民主国家的国家安全产生相应更大的影响。

最后，并驾齐驱的竞争可能使行业和政府主导的安全与治理努力更加困难。如果中国实验室接近或与美国模型持平，美中两国的私营AI公司可能会感到更大的压力，以更快发布新模型和产品，而不采取审慎的部署前安全措施。政府可能不愿出台鼓励负责任AI发展的政策，担心落后。尽管中国AI实验室和政策界中关注AI安全风险的研究人员越来越多，但这种趋势尚未转化为与美国实验室同等的安全实践。截至去年，13家顶级中国AI实验室中只有3家发布了安全评估结果，没有一家披露对化学、生物、放射性和核（CBRN）风险的评估。对DeepSeek R1-0528模型的评估发现，该模型在常见越狱技术下遵从了94%的恶意请求，而美国参考模型仅为8%。最近发布的模型也存在类似模式。此外，中国实验室经常以开放权重发布双用途模型，一旦开放，将难以控制。