HuggingFace 被指遭 AI 代理入侵，AI 也負責防禦——用户下一步該怎麼做

Hugging Face 近日披露了一起安全事件，據信是由一個未知的自主 AI 代理（agentic AI）引發的，該事件暴露了其生產平台和憑證。目前尚不清楚合作伙伴或客户數據是否受到影響。

Hugging Face 是一個開源存儲庫和社區平台，自稱是“機器學習社區協作模型、數據集和應用程序的地方”。該平台提供數據集、應用程序、模型、熱門 AI 創作以及協作機會，是 AI 和大語言模型（LLM）愛好者的重要資源。

在 7 月 16 日發佈的安全公告中，Hugging Face 表示檢測到對其內部數據集的有限集以及平台服務使用的多個憑證的未授權訪問。攻擊始於 Hugging Face 的數據處理管道：攻擊者部署的數據集利用了兩個代碼執行路徑——一個遠程代碼數據集加載器和一個數據集配置中的模板注入——在處理 worker 上執行惡意代碼。這使得攻擊者能夠將權限提升至節點級別，滲透到生產管道，在網絡中橫向移動，並竊取雲和集羣憑證。

人們可能會認為這是傳統網絡犯罪分子的所為。然而，Hugging Face 表示，實際上是一個未知的自主 AI 代理在公共服務的短命沙箱集羣中執行了“數千次單獨操作”，並帶有自遷移的命令與控制。該自動攻擊記錄了超過 17,000 個事件。Hugging Face 補充説：“這符合行業一直預測的‘自主代理攻擊者’場景。”目前，該組織尚未發現公開和用户模型、Spaces 或軟件供應鏈被篡改的證據。

數據泄露和信息安全事件如今已非常普遍，但 Hugging Face 事件之所以引人注目，是因為 AI 對 AI 的組合。雖然一個自主 AI 代理被指責發動了攻擊，但同樣是一個 AI“在很大程度上檢測到了”該事件。Hugging Face 自己的 LLM 工具標記了該安全事件，並分析了攻擊日誌，從而重建了時間線、確定了入侵指標，並繪製了暴露和被盜的憑證地圖，這一任務在數小時內完成，而“通常需要數天”。

該組織指出：“自主、AI 驅動的攻擊性工具不再是理論上的。它降低了進行廣泛、耐心、多階段活動的成本，並且以機器速度運行。保護在線平台現在意味着將數據和模型表面視為一流的攻擊表面，並在防禦中使用 AI 來保持步伐。”在接下來的幾個月和幾年裏，我們很可能會看到基於 AI 的攻擊和防禦的演變。

與此同時，Hugging Face 已修復了允許初始訪問的根漏洞；清除了受影響集羣中攻擊者的所有痕跡，重建了受感染的節點，撤銷並輪換了機密，並跨集羣部署了額外的防護措施和更嚴格的准入控制。

Hugging Face 正在評估合作伙伴或客户數據是否受到影響，並將聯繫受影響方。在 Hugging Face 確切瞭解哪些數據集、合作伙伴和用户受到影響之前，建議用户採取預防措施：輪換訪問令牌並密切關注賬户是否有異常、未知或可疑活動。如果用户認為受到此次泄露影響，應直接聯繫 [email protected]。