Hugging Face 使用开放权重 Z.ai GLM 5.2 抵御攻击者

Hugging Face 公司，常被称为“机器学习的 GitHub”，在上周检测到一次由自主 AI 代理系统发起的攻击，该攻击访问了少量内部数据集和一些内部服务的凭据。公司迅速做出防御性反应，切断了攻击者的连接并加固了系统。

在分析过程中，Hugging Face 尝试使用前沿 AI 模型协助日志分析——鉴于 Hugging Face 是众多 AI 模型的主要访问点，这是完全合理的选择。然而，这一尝试失败了：这类分析需要发送大量真实的攻击数据、命令、利用载荷和攻击痕迹。这些请求被商业前沿 AI 模型屏蔽，因为它们的护栏无法区分是攻击者请求构建漏洞，还是防御者试图检测漏洞。

由于急需快速分析，公司转而使用 Z.ai 公司的 GLM 5.2，这是一个强大的开放权重模型，拥有约 7530 亿参数。与第三方模型不同，GLM 5.2 可以在本地或云硬件上完全运行，并置于公司的受保护防火墙内，这意味着数据不会离开受控基础设施。

中国的 AI 模型，如 GLM 5.2 和北京月之暗面科技有限公司的 Kimi K3，已证明开放源码和开放权重模型可以达到甚至媲美当前由美国公司构建的领先前沿模型。GLM 5.2 达到了 Anthropic 公司的 Fable 5 的能力水平，Fable 5 是一个神话级模型，能够进行高级推理、编码，甚至发现易受攻击的代码和漏洞。而且，其推理成本远低于 Anthropic 的模型。

然而，为了防止这些模型被滥用，Anthropic 和其他领先的闭源 AI 开发者设置了强大的安全护栏，这会触发更高的误报率以避免滥用。这也使得它们在有效的网络安全角色中整体能力大打折扣。Anthropic 指出，误报率正在调整，以使其前沿模型对研究人员更安全。

尽管 Anthropic 和 OpenAI PBC 集团等公司自愿对其最强大的模型施加了这些限制，但 Mythos 5 和 Fable 5 在上个月应美国政府的要求被撤销，并仅在他们首次推出后不久。同样，美国政府要求 OpenAI 推迟其自己的前沿模型系列 GPT 5.6 的发布，该系列现已公开可用。

中国开放开源与美国闭源模型之间的紧张关系

最近，北京月之暗面发布了强大的接近前沿级别的开放权重模型 Kimi K3，这加剧了有关特朗普政府可能禁止美国公司使用中国开放模型的报道。据 Axios 报道，部分政府官员此前已试图构建对外国开放源码模型的事实上的禁令。目前，许多美国公司越来越多地使用中国开放权重模型，因为它们部署成本更低，且接近商业模型的能力。

美国无需直接禁止使用中国模型；相反，政府可以通过施压活动引导企业远离它们，理由是其缺乏安全性和治理。据消息人士称，美国商务部去年还考虑将多个中国 AI 实验室列入“实体清单”，这将有效切断没有适当许可的企业对其的访问。

白宫 AI 和加密货币顾问 David Sacks 上周日在 X（前推特）上写道：“我们正处于 AI 政策的关键转折点。领先的封闭实验室，在 AI 模型收入上已经是双头垄断，希望政府消除其开源竞争。”

在 X 上的一篇两段式帖子中，Sacks 引用了最近的 Hugging Face 事件，补充说：“没有理由在那些中国模型毫无问题处理的任务上限制美国模型。我们只是在让自己变得不那么有竞争力。”

在他的评论中，他提到 Kimi K3 修复了 15 个关键安全漏洞，而 OpenAI 和 Anthropic 的模型因“网络护栏”而拒绝修复。这 15 个漏洞修复来自一位使用该模型的开发者，并非已知基准，但它已成为开发者关注的焦点，表明中国模型正在取代美国闭源模型。

该开发者补充说，整个事件仅花费 250 美元。在不了解具体工作的情况下，成本比较将很困难甚至不可能，但 Kimi K3 的价格约为 Fable 5 的三分之一。当然，如果 Fable 5 拒绝工作，价格差异就不重要了。

注意到世界开始转向其模型，中国国家主席习近平呼吁全球合作。“人工智能的发展不应是任何单一国家的独角戏，而应是全球合作的交响乐，”习近平在上海举行的中国年度世界人工智能大会开幕式上表示。

他在讲话中呼吁反对“过度延伸国家安全概念”与 AI 相关。中国历史上一直被阻止使用美国一些最先进的 AI，并受限于最先进的 AI 芯片。

中国计划扩大与东盟、阿拉伯国家联盟、非盟、拉共体、上合组织和金砖国家在 AI 方面的合作。未来五年，习近平表示中国将为发展中国家提供 5000 个 AI 培训名额。他还表示，中国将向 30 个国家提供中国开发的气象工具，用于早期预警系统。

图片来源：SiliconANGLE/Microsoft Designer