Token过度消耗是AI成本黑洞——如何在不超预算的情况下使用智能体
AI令牌消耗随着智能体技术的普及而急剧上升，导致成本不可持续。商业领袖提倡'令牌经济学'，通过指导和上下文而非限制来管理令牌使用，在创新与控制成本之间取得平衡。
随着智能体AI技术的快速普及，企业面临着前所未有的令牌消耗压力。Boomi首席执行官Steve Lucas指出，过去一年他的公司在Claude上的支出增长了十倍，这种增长速度不可持续。令牌——AI模型处理信息的基本单位——的消耗量正在以指数级上升，导致所谓的“令牌最大化”现象成为企业成本的主要来源。
Lucas强调，企业必须建立自己的“令牌经济学”——一套衡量、定价和管理令牌消耗的体系。他认为，当前的令牌排行榜已经过时，因为企业再也无法承受浪费令牌的代价。相反，领导者需要制定策略，在鼓励创新的同时控制成本。
Snowflake首席执行官Sridhar Ramaswamy表示，虽然内部AI推理支出令人担忧，但这不应成为停止使用AI的理由。他指出，智能体技术可以帮助企业更快地开发新服务，提高效率，并创造新的收入来源。关键在于找到支出与回报之间的平衡点。
Whoop公司分析副总裁Matt Luizzi分享了他们的做法：允许员工在智能体上花费资金，但设置护栏并进行监控。他强调，让员工理解如何更高效地使用模型比单纯限制更重要。通过提供指导而非禁令，企业可以既推动创新又避免成本失控。
Synopsys首席信息官Sriram Sitaraman进一步指出，上下文是限制令牌消耗的关键。如果智能体任务没有明确的范围，它会消耗大量数据却产出无用结果。而通过设定具体目标（如“北美销售运营智能体”），令牌消耗将大幅降低，同时价值显著提升。
法国电视网络TF1集团首席数据官Francois-Xavier Pierrel将过度使用AI比作糖瘾：最初很便宜，但上瘾后成本飙升。他建议企业在部署智能体时保持谨慎，优先使用小型模型完成简单任务，避免不必要的巨大支出。
总之，智能体AI的成功应用并非取决于无限制的令牌投入，而是通过合理的指导、监控和上下文设定，在创新与成本之间找到可持续的平衡。正如多位高管所言：“我们不是在发射火箭，所以请保持理性——不要一开始就部署一百万个智能体。”