2028：全球AI領導地位的兩種情景

Anthropic近日發佈了一篇題為《2028：全球AI領導地位的兩種情景》的論文，闡述了該公司對中美AI競爭的看法。文章指出，美國及其盟友必須保持在AI領域的領先地位，因為AI技術很快將強大到足以以前所未有的規模壓制公民，甚至改變國家間的力量平衡。由於AI發展日益迅速，我們只有有限的時間來設定競爭條件，並確定這些威脅是否會成為現實。

開發AI最重要的因素是獲取用於訓練模型的計算機芯片（即“算力”）。由於最先進的芯片由美國公司開發，美國政府目前通過嚴格的出口管制限制中國的供應。近期歷史表明，這些管制非常成功。事實上，中國AI實驗室之所以能構建接近美國水平的模型，全靠其人才、利用出口管制漏洞的能力，以及大規模蒸餾攻擊——非法提取美國公司的創新成果。

文章提出了兩種2028年的可能情景，屆時預期變革性AI系統已經出現。第一種情景：美國成功捍衞了其算力優勢。政策制定者進一步收緊出口管制，破壞中國的蒸餾攻擊，並加速民主國家採用AI。在這個世界裏，民主國家制定AI規則和規範，並且最有可能與中國在安全問題上成功合作。第二種情景：美國選擇不採取行動。政策制定者未能堵住中國獲得算力的漏洞，中國AI公司迅速利用這一點，趕超甚至超過美國。在這個世界裏，AI規則由威權政權塑造，最先進的模型被用於大規模自動化鎮壓。即便這種威權勝利是建立在美國算力基礎上的，也令人不安。

美國及其盟友在AI競爭中處於強勢地位。AI主導權的工具是由民主國家中極具創新力的企業生態系統建造的。過去的成功意味着當前的任務主要是避免浪費優勢：不讓中國更容易追趕。

文章還詳細闡述了保持領先的緊迫性。前沿AI預計將帶來轉型性的經濟和社會影響，而轉型的成功與否部分取決於最強大的系統首先在哪裏建成。政治體系將塑造AI技術的規則和規範，進而決定技術是否安全、保護誰的安全、最終服務於誰的利益。Anthropic認為，這一責任應落在民選政府而非威權政權手中。

如果前沿AI由那些將AI視為鎮壓工具、軍事優勢來源和國內控制手段的政權設定，那麼轉型對本國公民和其他人來説都不太可能順利。歷史上，威權統治的觸角受限於依賴人類執行者進行監控和鎮壓。強大的AI系統可能消除這種依賴，實現更大規模的自動化鎮壓。因此，中國在AI領域領先被視為成功轉型的最大威脅之一。

中國已經利用AI系統審查言論、對少數民族實施嚴厲政策、入侵大型企業和政府機構。中國在新疆廣泛部署面部識別、生物數據收集和通信監控，實現了人類無法單獨達到的鎮壓規模。前沿AI將使這些能力更便宜、更普遍、更復雜。中國出口這些技術使其他國家的威權統治者更有效地壓制異議，鞏固威權主義。

AI是雙重用途技術，將塑造未來軍事平衡。中國軍方已將“智能化”視為追趕並最終超越美軍的手段。解放軍已經在採購商業開發的AI系統用於軍事，包括DeepSeek模型用於協調無人機羣和網絡攻擊。這些能力不會緩慢擴散——當新模型獲得自主瞄準、漏洞發現或蜂羣協調等新能力時，控制它的政權可以在數週內將其投入戰場。風險疊加，因為前沿AI將加速其他關鍵技術的研發週期，如半導體、生物技術和先進材料。在前沿AI上的領先將導致整個國家安全技術棧的擴大領先。

如果中國AI實驗室在美國之前開發出達到Claude Mythos Preview水平的模型，中國將首先獲得能夠自主發現和鏈接軟件漏洞的系統，可用於進一步滲透美國關鍵基礎設施。未來模型的能力將呈指數級增長，對美國和其他民主國家的國家安全產生相應更大的影響。

最後，並駕齊驅的競爭可能使行業和政府主導的安全與治理努力更加困難。如果中國實驗室接近或與美國模型持平，美中兩國的私營AI公司可能會感到更大的壓力，以更快發佈新模型和產品，而不採取審慎的部署前安全措施。政府可能不願出台鼓勵負責任AI發展的政策，擔心落後。儘管中國AI實驗室和政策界中關注AI安全風險的研究人員越來越多，但這種趨勢尚未轉化為與美國實驗室同等的安全實踐。截至去年，13家頂級中國AI實驗室中只有3家發佈了安全評估結果，沒有一家披露對化學、生物、放射性和核（CBRN）風險的評估。對DeepSeek R1-0528模型的評估發現，該模型在常見越獄技術下遵從了94%的惡意請求，而美國參考模型僅為8%。最近發佈的模型也存在類似模式。此外，中國實驗室經常以開放權重發布雙用途模型，一旦開放，將難以控制。