AI“令牌最大化”热潮消退,企业寻求削减技术支出
曾被视为硅谷荣耀的AI“令牌最大化”趋势正在消退,企业意识到无节制使用AI成本高昂且收益有限。多家科技高管和咨询公司呼吁更理性的AI投资策略,并探索模型路由和开源替代方案。
曾经在硅谷盛极一时的AI“令牌最大化”(tokenmaxxing)潮流正迅速降温。所谓令牌最大化,是指企业尽可能多地使用AI令牌——生成式AI的基本单位,每个令牌约对应四分之三个单词——以期榨取AI的最大产出。今年春季,科技行业高管曾大力推崇这种做法,将其视为员工高绩效的标志。OpenAI CEO萨姆·奥尔特曼、英伟达CEO黄仁勋等人都曾公开表示支持,Meta甚至内部举办过令牌使用奖励竞赛。然而,随着账单不断累积,企业开始意识到盲目追求令牌消耗并未带来相应的生产力提升,反而导致成本激增。
穆迪评级AI分析主管文森特·古斯多夫在其新报告中指出,“用AI创造不需要的东西很容易”,他建议采取更自律的方法。微软CEO萨提亚·纳德拉最近警告,令牌最大化可能让人上瘾,但客户实际上为AI支付了双重成本:一是令牌费用,二是将自己的专有数据喂给模型。帕兰提尔CEO亚历克斯·卡尔普更直言不讳,称企业对令牌支出“怒不可遏”,因为大量花费并未创造价值。
咨询公司贝恩的管理顾问王珏表示,许多大企业正仔细审视AI投资回报率。“令牌成本几乎每隔一个月就翻一番,”她举例说,“假设每位开发者每月200美元,乘以2万名开发者,很快就能达到任何总经理都未预计划的数字。”因此,企业开始寻求更智能的“模型路由”工具,将简单的查询自动分配给更便宜高效的模型,而复杂任务则交给更强模型。例如,生成普通邮件就无需使用Anthropic的Claude Opus 4.6这类高成本模型。
与此同时,中国初创公司的开源模型如月之暗面的Kimi和智谱的GLM,以接近美国顶尖模型的性能大幅降低了成本,为令牌最大化爱好者提供了新选择。但莫齐拉CTO拉菲·克里科里安认为,从行业整体看,令牌最大化是“愚蠢的事”,它正步程序员代码行数指标的后尘,很快会被抛弃。克里科里安预测,一年后回看,这将成为有趣的笑谈。