更便宜的LLM代币反而导致更大的人工智能账单(杰文斯悖论)
随着LLM代币价格暴跌,企业人工智能支出反而激增,因为代理型工作负载消耗的代币量是聊天提示的50倍。Uber在四个月内烧光了全年AI预算,被迫实施每人每月1500美元的使用上限。本文分析了代币定价经济学,并建议将可变成本转换为固定基础设施以更好地控制预算。
更便宜的LLM代币反而导致更大的人工智能账单(杰文斯悖论)
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
随着LLM代币价格暴跌,企业人工智能支出反而激增,因为代理型工作负载消耗的代币量是聊天提示的50倍。Uber在四个月内烧光了全年AI预算,被迫实施每人每月1500美元的使用上限。本文分析了代币定价经济学,并建议将可变成本转换为固定基础设施以更好地控制预算。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。