HuggingFace 被指遭 AI 代理入侵，AI 也負責防禦——使用者下一步該怎麼做

Hugging Face 近日披露了一起安全事件，據信是由一個未知的自主 AI 代理（agentic AI）引發的，該事件暴露了其生產平臺和憑證。目前尚不清楚合作伙伴或客戶資料是否受到影響。

Hugging Face 是一個開源儲存庫和社群平臺，自稱是“機器學習社群協作模型、資料集和應用程式的地方”。該平臺提供資料集、應用程式、模型、熱門 AI 創作以及協作機會，是 AI 和大語言模型（LLM）愛好者的重要資源。

在 7 月 16 日釋出的安全公告中，Hugging Face 表示檢測到對其內部資料集的有限集以及平臺服務使用的多個憑證的未授權訪問。攻擊始於 Hugging Face 的資料處理管道：攻擊者部署的資料集利用了兩個程式碼執行路徑——一個遠端程式碼資料集載入器和一個資料集配置中的模板注入——在處理 worker 上執行惡意程式碼。這使得攻擊者能夠將許可權提升至節點級別，滲透到生產管道，在網路中橫向移動，並竊取雲和叢集憑證。

人們可能會認為這是傳統網路犯罪分子的所為。然而，Hugging Face 表示，實際上是一個未知的自主 AI 代理在公共服務的短命沙箱叢集中執行了“數千次單獨操作”，並帶有自遷移的命令與控制。該自動攻擊記錄了超過 17,000 個事件。Hugging Face 補充說：“這符合行業一直預測的‘自主代理攻擊者’場景。”目前，該組織尚未發現公開和使用者模型、Spaces 或軟體供應鏈被篡改的證據。

資料洩露和資訊安全事件如今已非常普遍，但 Hugging Face 事件之所以引人注目，是因為 AI 對 AI 的組合。雖然一個自主 AI 代理被指責發動了攻擊，但同樣是一個 AI“在很大程度上檢測到了”該事件。Hugging Face 自己的 LLM 工具標記了該安全事件，並分析了攻擊日誌，從而重建了時間線、確定了入侵指標，並繪製了暴露和被盜的憑證地圖，這一任務在數小時內完成，而“通常需要數天”。

該組織指出：“自主、AI 驅動的攻擊性工具不再是理論上的。它降低了進行廣泛、耐心、多階段活動的成本，並且以機器速度執行。保護線上平臺現在意味著將資料和模型表面視為一流的攻擊表面，並在防禦中使用 AI 來保持步伐。”在接下來的幾個月和幾年裡，我們很可能會看到基於 AI 的攻擊和防禦的演變。

與此同時，Hugging Face 已修復了允許初始訪問的根漏洞；清除了受影響叢集中攻擊者的所有痕跡，重建了受感染的節點，撤銷並輪換了機密，並跨叢集部署了額外的防護措施和更嚴格的准入控制。

Hugging Face 正在評估合作伙伴或客戶資料是否受到影響，並將聯絡受影響方。在 Hugging Face 確切瞭解哪些資料集、合作伙伴和使用者受到影響之前，建議使用者採取預防措施：輪換訪問令牌並密切關注賬戶是否有異常、未知或可疑活動。如果使用者認為受到此次洩露影響，應直接聯絡 [email protected]。