Hugging Face 使用開放權重 Z.ai GLM 5.2 抵禦攻擊者

Hugging Face 公司，常被稱為“機器學習的 GitHub”，在上週檢測到一次由自主 AI 代理系統發起的攻擊，該攻擊訪問了少量內部數據集和一些內部服務的憑據。公司迅速做出防禦性反應，切斷了攻擊者的連接並加固了系統。

在分析過程中，Hugging Face 嘗試使用前沿 AI 模型協助日誌分析——鑑於 Hugging Face 是眾多 AI 模型的主要訪問點，這是完全合理的選擇。然而，這一嘗試失敗了：這類分析需要發送大量真實的攻擊數據、命令、利用載荷和攻擊痕跡。這些請求被商業前沿 AI 模型屏蔽，因為它們的護欄無法區分是攻擊者請求構建漏洞，還是防禦者試圖檢測漏洞。

由於急需快速分析，公司轉而使用 Z.ai 公司的 GLM 5.2，這是一個強大的開放權重模型，擁有約 7530 億參數。與第三方模型不同，GLM 5.2 可以在本地或雲硬件上完全運行，並置於公司的受保護防火牆內，這意味着數據不會離開受控基礎設施。

中國的 AI 模型，如 GLM 5.2 和北京月之暗面科技有限公司的 Kimi K3，已證明開放源碼和開放權重模型可以達到甚至媲美當前由美國公司構建的領先前沿模型。GLM 5.2 達到了 Anthropic 公司的 Fable 5 的能力水平，Fable 5 是一個神話級模型，能夠進行高級推理、編碼，甚至發現易受攻擊的代碼和漏洞。而且，其推理成本遠低於 Anthropic 的模型。

然而，為了防止這些模型被濫用，Anthropic 和其他領先的閉源 AI 開發者設置了強大的安全護欄，這會觸發更高的誤報率以避免濫用。這也使得它們在有效的網絡安全角色中整體能力大打折扣。Anthropic 指出，誤報率正在調整，以使其前沿模型對研究人員更安全。

儘管 Anthropic 和 OpenAI PBC 集團等公司自願對其最強大的模型施加了這些限制，但 Mythos 5 和 Fable 5 在上個月應美國政府的要求被撤銷，並僅在他們首次推出後不久。同樣，美國政府要求 OpenAI 推遲其自己的前沿模型系列 GPT 5.6 的發佈，該系列現已公開可用。

中國開放開源與美國閉源模型之間的緊張關係

最近，北京月之暗面發佈了強大的接近前沿級別的開放權重模型 Kimi K3，這加劇了有關特朗普政府可能禁止美國公司使用中國開放模型的報道。據 Axios 報道，部分政府官員此前已試圖構建對外國開放源碼模型的事實上的禁令。目前，許多美國公司越來越多地使用中國開放權重模型，因為它們部署成本更低，且接近商業模型的能力。

美國無需直接禁止使用中國模型；相反，政府可以通過施壓活動引導企業遠離它們，理由是其缺乏安全性和治理。據消息人士稱，美國商務部去年還考慮將多箇中國 AI 實驗室列入“實體清單”，這將有效切斷沒有適當許可的企業對其的訪問。

白宮 AI 和加密貨幣顧問 David Sacks 上週日在 X（前推特）上寫道：“我們正處於 AI 政策的關鍵轉折點。領先的封閉實驗室，在 AI 模型收入上已經是雙頭壟斷，希望政府消除其開源競爭。”

在 X 上的一篇兩段式帖子中，Sacks 引用了最近的 Hugging Face 事件，補充説：“沒有理由在那些中國模型毫無問題處理的任務上限制美國模型。我們只是在讓自己變得不那麼有競爭力。”

在他的評論中，他提到 Kimi K3 修復了 15 個關鍵安全漏洞，而 OpenAI 和 Anthropic 的模型因“網絡護欄”而拒絕修復。這 15 個漏洞修復來自一位使用該模型的開發者，並非已知基準，但它已成為開發者關注的焦點，表明中國模型正在取代美國閉源模型。

該開發者補充説，整個事件僅花費 250 美元。在不瞭解具體工作的情況下，成本比較將很困難甚至不可能，但 Kimi K3 的價格約為 Fable 5 的三分之一。當然，如果 Fable 5 拒絕工作，價格差異就不重要了。

注意到世界開始轉向其模型，中國國家主席習近平呼籲全球合作。“人工智能的發展不應是任何單一國家的獨角戲，而應是全球合作的交響樂，”習近平在上海舉行的中國年度世界人工智能大會開幕式上表示。

他在講話中呼籲反對“過度延伸國家安全概念”與 AI 相關。中國歷史上一直被阻止使用美國一些最先進的 AI，並受限於最先進的 AI 芯片。

中國計劃擴大與東盟、阿拉伯國家聯盟、非盟、拉共體、上合組織和金磚國家在 AI 方面的合作。未來五年，習近平表示中國將為發展中國家提供 5000 個 AI 培訓名額。他還表示，中國將向 30 個國家提供中國開發的氣象工具，用於早期預警系統。

圖片來源：SiliconANGLE/Microsoft Designer