我們對開源權重模型的立場

Anthropic首席執行官Dario Amodei於2026年7月27日發表了一篇詳細文章，闡述了公司對開源權重模型的明確立場。這篇文章是在近期關於美國可能禁止使用中國開源權重模型的討論背景下發布的。許多科技公司簽署了支持開源模型公開信，而Anthropic被一些人錯誤地描述為出於保護自身業務而支持禁令。Amodei直接回應了這些誤解，強調Anthropic從未倡導過禁止開源權重模型。

Amodei指出，不具備危險能力的開源權重模型是公共產品，僅需運行所需的計算成本，為商業、開發和研究提供了巨大價值。然而，他指出了兩個最嚴重的國家安全噩夢情景。首要擔憂是專制政府（尤其是中國共產黨，儘管並非唯一）構建比美國更強大的AI模型，用於實現永久軍事優勢或對其人民進行深度壓制。這一擔憂在美國政府內部被廣泛認同：副總統萬斯去年在巴黎警告説，“威權政權竊取並利用AI來強化其軍事、情報和監控能力”，而情報界2026年年度威脅評估發現，“其他全球大國在AI方面的強勁進展正在挑戰美國的經濟競爭力和國家安全優勢”。這些模型的發佈方式（是否開源）與美國企業是否使用它們，都不是關鍵問題。最危險的模型實際上可能是在秘密中訓練，僅交給中國人民解放軍用於無人機，或交給國家安全部用於監控和壓制。

第二個擔憂是強大AI模型可能被濫用於網絡攻擊或生物攻擊，並可能出現嚴重的對齊問題。開源權重模型——無論來自中國還是其他地方——確實可能比封閉模型帶來更高風險，因為很難對其施加防護措施或監控其使用，且權重一旦發佈就無法撤回。但禁止美國企業使用這些模型並不能解決這一風險，因為惡意行為者不太可能是合法的美國企業。這種禁令只會保護美國AI公司免受競爭，而這從來不是他的目標。

為了解決這些擔憂，Amodei支持三項針對性措施。第一，不應向中國出售強大芯片或芯片製造設備，並應打擊猖獗的走私和規避行為。中國國內生產能力有限，根據規模定律，沒有美國芯片就無法構建比美國更強大的模型。這是阻止威脅#1的最有效直接方式，同時通過阻礙在美國法律範圍之外訓練的模型，也間接有助於威脅#2。

第二，應打擊工業級蒸餾操作。蒸餾是一種比從頭訓練模型更高效的計算過程，它使中國能夠構建比其芯片數量通常所允許的更好的模型，從而部分規避芯片禁令。蒸餾不能讓中共獲得與美國相當或更優的AI能力，但能將中國的前沿水平拉近到美國前沿的幾個月之內。許多進行這些操作的公司發佈了開源權重模型，但開源權重遠不如這些操作由尋求在前沿超越美國的威權國家支持這一事實重要。應通過政策干預來遏制這種行為，全面禁止開源權重模型既不是正確的補救措施，也不是他們所呼籲的。

第三，所有足夠強大的模型，無論開源還是閉源，都應進行強制性安全測試。應對威脅#2的最佳方法是在發佈前直接測試模型的網絡、生物和對齊風險。這一想法已接近共識：特朗普政府近幾個月朝這個方向邁進，最近的行業提案也計劃將此類測試應用於最強大的模型，無論其原產國或開源與否，同時完全豁免初創公司和學術界等能力較弱的模型。開源模型是否構成更高風險以及風險是否可緩解，應通過測試來確定，而非事先決定。改進開源權重模型安全性的有希望方法包括Anthropic最近關於模塊化訓練策略的研究。為了有效，測試需要全球範圍，這意味着中共也需要參與。這可能實現，因為防止AI生物武器的有限合作也符合中國利益。

Amodei還評論了開源公開信。他同意其中許多觀點：開源權重擴大了AI經濟的准入，至少在某些用例中加強了競爭，並賦予客户更大控制權。蒸餾問題應通過有針對性的法律和商業框架來解決，即他上述的措施。但他不同意公開信中斷言開源權重模型必然使開發防護措施更容易，或廣泛的能力獲取必然對防禦者比攻擊者更有幫助。他認為相反的情況同樣可能。例如，他擔心生物學領域存在強烈的攻擊-防禦不對稱：足夠強大的模型可能利用廣泛可得的材料快速武器化大流行級別的病毒，而防禦這些病原體即使在最佳情況下也是多年的操作任務（如“曲速行動”所示）。此類問題應通過嚴格的發佈前測試來實證回答，而非預先假設。

總結而言，Anthropic的立場是不主張整體禁止開源權重模型，而是應專注於將強大芯片排除在威權政權之手、停止工業級蒸餾，並要求對所有足夠強大的模型（無論開源還是閉源）進行安全測試。