AI编程代币成本或将超过使用它们的开发人员薪资
Gartner指出,随着AI编程代币从按座位许可转向按消费定价,开发者面临成本急剧上升的问题,每月账单可能高达2万美元。缺乏成本控制工具和透明度,导致token消费激增却未必带来生产力提升。Gartner建议优化token消耗,采用上下文工程和模型路由策略。预测到2028年,AI编程成本将超过全球平均开发者薪资。
Gartner最新报告指出,AI编程代币的定价模式正在经历重大转变,从传统的按座位许可转向基于消费的定价,导致开发者团队面临前所未有的成本波动。据Gartner高级首席分析师Nitish Tyagi介绍,AI编程账单已从每月20美元或100美元迅速攀升至每位开发者每月2000至5000美元,极端情况下甚至可达2万美元。这种成本激增让许多企业措手不及,尤其是那些在早期采用按座位许可模式时未预留充足预算的公司。
然而,软件工程部门对token消耗的计算和计费方式知之甚少,难以准确预测和控制成本。Gartner批评AI编程代币供应商缺乏必要的内置功能来帮助开发者优化成本,从而导致成本失控。Tyagi表示,目前没有供应商在成本优化方面提供出色的功能,反而专注于所谓“tokenmaxxing”的概念,鼓励开发者增加token消耗以提升生产力,但实际效果并不明确。他指出,“token消耗的增加与生产力提升之间没有直接关联。”
Gartner建议开发者团队优化token消耗,采用上下文工程实践,即改善向AI系统提供的输入上下文质量。例如,通过更精准的提示和更相关的上下文片段,可以减少不必要的token浪费。此外,模型路由策略也被推荐,将简单高频任务分配给更小的模型,仅将复杂高价值工作留给前沿模型。这些方法不仅能提高输出质量,还能间接提升生产力。Tyagi强调,“优化token消耗与输出质量之间存在正相关关系。”
由于缺乏成本优化工具,AI开发领域正面临极端情况:在某些地区,开发者使用的AI编程代币成本可能超过其自身薪资。Gartner预测,到2028年,随着大语言模型token消耗的增长和消费定价模式的普及,AI编程成本将超过全球平均开发者薪资。Tyagi指出,目前在美国等高薪资国家,AI代币成本尚未达到薪资水平,但在印度等地,成本已相当于拥有四到六年经验的工程师薪资。值得注意的是,AI编程代币的成本并不因地域而异,这意味着印度开发者的代币成本可能与美国相当,但其薪资水平却远低于后者。这种不平衡进一步加剧了成本压力,促使企业重新评估AI工具的投资回报率。Gartner呼吁供应商尽快推出成本优化功能,同时开发者也应主动采取策略控制token消耗,以避免AI工具成为财务负担。