对AI说“你好”的真正成本
详细分析AI交互的隐藏成本:虽然token费用微不足道,但等待时间会显著影响生产力和薪资,往往超过API费用。对14个模型的测试显示,模糊提示会导致过多的工具调用和延迟。
当你对AI说“你好”时,token费用不到0.005美元。但你的时间并非免费。在AI思考时,你只能等待,而没有人把等待计入账单。以平均开发者薪资计算,回答一次问候的等待成本为0.07美元(使用最便宜的模型GPT-5.4-mini),而最慢的模型则要花费0.84美元,还有模型在5次尝试中有3次失败。
我并非唯一计算这笔账的人。有人发帖称,GPT-5.4 Pro对一个简单的“你好”回复竟花费80美元,被称为“过度思考的AI”。这虽然是极端案例,但现象真实存在且可量化。
我测试了14个模型,以证明等待时间(而非token定价)才是AI的隐藏成本。我的实验在同一个小型Git仓库中进行,每个模型作为终端智能体运行。我有三个提示:“你好”、“commit”和“WTF”。每个提示对每个模型运行5次。
对于“你好”,有些模型快速回应:GPT-5.5和Grok仅使用2次工具调用。但其他模型则过度解读。Sonnet平均使用24次工具调用,耗时49秒。它读取了所有文件,运行应用,甚至进行了未请求的代码提交。Haiku有3次超时,Minimax也有3次失败。
作为对照,“commit”是一个明确的任务,所有模型100%成功,工具调用5-10次。一个真实任务比一句问候更容易处理。而“WTF”则导致混乱:Kimi平均43次工具调用,DeepSeek有4次失败。Gemini 3.1 Pro无限循环直到超时,Fable则完全僵住。
现在计算等待成本。将LLM API费用与等待时间(按年薪12万美元计算)相加。对于GPT-5.4-mini,等待成本是token成本的20倍。整个表格显示,总成本主要由等待时间主导。
教训是:提示词是成本驱动因素。在相同环境下,总成本从0.08美元(GPT-5.4-mini的“你好”)到1.39美元(Qwen的“WTF”)不等。模糊性才是你付出的代价。token几乎无关紧要——每秒0.016美元的等待成本远超API费用。
整个行业正竞相使模型更智能。但我支付的并非智能,而是等待。让模型更快更便宜,提示成本将大幅下降。下个10倍改进就在于此,而非另一个基准分数。
在那之前,一个免费且现成的优化方法是:直接说出需求,不要客气。它毕竟只是一台机器。