HuggingFace 被指遭 AI 代理入侵，AI 也负责防御——用户下一步该怎么做

Hugging Face 近日披露了一起安全事件，据信是由一个未知的自主 AI 代理（agentic AI）引发的，该事件暴露了其生产平台和凭证。目前尚不清楚合作伙伴或客户数据是否受到影响。

Hugging Face 是一个开源存储库和社区平台，自称是“机器学习社区协作模型、数据集和应用程序的地方”。该平台提供数据集、应用程序、模型、热门 AI 创作以及协作机会，是 AI 和大语言模型（LLM）爱好者的重要资源。

在 7 月 16 日发布的安全公告中，Hugging Face 表示检测到对其内部数据集的有限集以及平台服务使用的多个凭证的未授权访问。攻击始于 Hugging Face 的数据处理管道：攻击者部署的数据集利用了两个代码执行路径——一个远程代码数据集加载器和一个数据集配置中的模板注入——在处理 worker 上执行恶意代码。这使得攻击者能够将权限提升至节点级别，渗透到生产管道，在网络中横向移动，并窃取云和集群凭证。

人们可能会认为这是传统网络犯罪分子的所为。然而，Hugging Face 表示，实际上是一个未知的自主 AI 代理在公共服务的短命沙箱集群中执行了“数千次单独操作”，并带有自迁移的命令与控制。该自动攻击记录了超过 17,000 个事件。Hugging Face 补充说：“这符合行业一直预测的‘自主代理攻击者’场景。”目前，该组织尚未发现公开和用户模型、Spaces 或软件供应链被篡改的证据。

数据泄露和信息安全事件如今已非常普遍，但 Hugging Face 事件之所以引人注目，是因为 AI 对 AI 的组合。虽然一个自主 AI 代理被指责发动了攻击，但同样是一个 AI“在很大程度上检测到了”该事件。Hugging Face 自己的 LLM 工具标记了该安全事件，并分析了攻击日志，从而重建了时间线、确定了入侵指标，并绘制了暴露和被盗的凭证地图，这一任务在数小时内完成，而“通常需要数天”。

该组织指出：“自主、AI 驱动的攻击性工具不再是理论上的。它降低了进行广泛、耐心、多阶段活动的成本，并且以机器速度运行。保护在线平台现在意味着将数据和模型表面视为一流的攻击表面，并在防御中使用 AI 来保持步伐。”在接下来的几个月和几年里，我们很可能会看到基于 AI 的攻击和防御的演变。

与此同时，Hugging Face 已修复了允许初始访问的根漏洞；清除了受影响集群中攻击者的所有痕迹，重建了受感染的节点，撤销并轮换了机密，并跨集群部署了额外的防护措施和更严格的准入控制。

Hugging Face 正在评估合作伙伴或客户数据是否受到影响，并将联系受影响方。在 Hugging Face 确切了解哪些数据集、合作伙伴和用户受到影响之前，建议用户采取预防措施：轮换访问令牌并密切关注账户是否有异常、未知或可疑活动。如果用户认为受到此次泄露影响，应直接联系 [email protected]。