中国开源权重模型便宜,华盛顿正在决定其代价
美国政策制定者正在讨论是否通过监管风险来限制中国开源权重模型的使用。Moonshot AI的Kimi K3模型发布后,这一争论再次升温。企业面临的问题不仅是性能,还有未来一年内使用这些模型是否依然畅通无阻。
本月评估中国开源权重模型的企业面临一个与基准测试无关的问题:一年后使用这些模型是否仍然简单直接?Moonshot AI的Kimi K3于7月16日发布,成为迄今最大的开源权重模型,几天之内就重新点燃了华盛顿沉寂一年的政策辩论。
结果将影响美国以外的采购决策,因为讨论中的机制——联邦采购规则、出口黑名单、安全建议——通过为全球大部分地区提供服务的云服务商传播。直接的导火索是OpenAI战略未来负责人Dean W. Ball的帖子,他此前在特朗普白宫担任高级AI顾问。
Ball对模型的评价总体积极:他认为这是一个非常好的模型,其性能无法用蒸馏来解释。他还观察到该模型似乎“非常消耗token”,并且在他看来,它实际上运行成本并不低——这是一个有用的警示,因为K3启动时最大推理努力是唯一设置,输出收费为每百万token 15美元。
他预测特朗普政府最终会决定最佳策略是围绕中国开源权重模型制造监管风险。不是禁令(他称之为AI政策中较愚蠢的动机之一),而是来自机构的软性指导,暗示这些模型可能包含后门。“不需要理由多么充分,”他写道。足够的不确定性会让受监管企业自行退缩。
为什么中国开源权重模型首先是商业问题?反应激烈,且来自美国人而非北京。总统科技顾问委员会联合主席David Sacks表示,他无法判断Ball是在承认监管捕获策略还是预测它,无论哪种方式,将监管不确定性武器化作为竞争工具都是不可接受的。他补充说,领先的封闭实验室(在模型收入上已是双寡头)希望政府移除其开源竞争。Yann LeCun和Martin Casado认为开源和专有开发可以共存。Ball后来澄清他是在预测而非推荐,并收回了开源权重必然会拖慢领域的说法。
表面之下是一个算术问题。封闭实验室需要每token的收入来证明其为数据中心筹集资金的合理性,而更便宜的开源权重模型压缩了该收入,同时不减少AI的使用量——Snorkel AI联合创始人Braden Hancock向TechCrunch指出了这一点。路由数据已经显示了转变:6月份,通过Vercel生产网关处理的token中,开源权重模型占29%,而4月份约为九分之一,但支出占比不到4%。
这种压力来自美国堆栈内部。GitHub于7月1日在Copilot模型选择器中普遍提供了Moonshot的Kimi K2.7 Code,该模型托管在Microsoft Azure上。据The Information报道,微软正在将K3添加到Azure,并评估它是否可以运行目前由OpenAI和Anthropic模型处理的Copilot功能,潜在的推理节省高达6亿美元。
微软既未确认该数字也未确认哪些功能。这是一项评估,而非部署,但它是美国前沿实验室的最大客户,正在为替代方案定价。
认真对待安全论点。商业动机并不使安全担忧虚假,最强版本值得陈述。开源权重无法召回。一旦模型下载并运行在数千个组织中,任何供应商都无法修补、撤销或推送修复,这与托管API的风险状况有实质性不同。模型行为比模型代码更难审计:微调可能带有偏见或故障模式,许可证检查无法揭示。
NIST此前在DeepSeek的开源模型中发现了安全漏洞,对于受监管行业,关于训练数据来源和内容处理的问题无论模型构建地点如何都存在。
反论点是关于比例而非否定。乔治城研究员Sam Bresnick认为,停止向中国销售Nvidia H200芯片会比禁止美国人想使用的开源模型更有效地减缓北京,目标是输入而非输出。Ball本人在他的第二个观察中承认了这一点,将中国的开源权重策略部分归因于缺乏为客户服务的国内计算能力,这使其成为美国出口管制的意外副产品。
实际可能发生的情况。Axios于7月20日报道,援引接近政府的人士称,商务部去年曾考虑将中国AI实验室加入实体清单,NSA和国家网络总监办公室考虑发布关于中国AI实验室威胁的建议,白宫考虑发布行政命令使美国公司因使用中国模型而对违规承担责任。担心抑制创新的官员扼杀了所有这些。
随着顾问Sriram Krishnan离职和安全鹰派声音更大,这一努力已重新启动,但描述的方法是采购规则、实体清单威胁和公众压力而非禁止。一位消息人士告诉Axios:“实际发生的事情更慢且更持久。”白宫和商务部均未回应Axios的评论请求,Politico报道商务部不会立即行动。
对美国以外的买家来说,这种风险是间接但真实的。为美国受监管行业和联邦采购制定的规则并不约束马来西亚银行或印尼电信公司。超大规模云服务商是传输线。
该地区大多数企业通过Azure、AWS或Google Cloud而非Moonshot自己的API访问Kimi K3。如果华盛顿让这些提供商托管中国开源权重模型变得足够不舒服,该模型将在吉隆坡和弗吉尼亚同时悄然从目录中消失。
Ball在他的帖子中预料到了这一点,指出监管机构不希望施压过大致使超大规模云服务商完全停止提供中国模型,因为那样只会将初创公司推向信誉较差的提供商。明显的对冲是持有自己的副本。Moonshot于7月27日发布K3权重,从那时起,已下载的用户无法撤回模型。
但如前所述,K3难以自行部署:Moonshot建议在至少64个加速器上提供服务,仅权重就约1.4TB。对于大多数公司来说,这一后备方案是理论上的。
这就留下了一个比标题暗示的更窄的问题。不在于中国开源权重模型是否安全或允许,而在于您构建的具体模型是否会在12个月内仍在云提供商的目录中,以及如果不在,迁移成本是多少。这是一个尽职调查问题,今天即可回答。