Show HN：AI循环与代币使用市场
本文探讨了生成式AI领域的一个核心悖论：行业以代币消耗量而非实际产出价值衡量成功。文章分析了代币浪费、智能体成本失控、资本军备竞赛、算法偏见、黑箱问题以及资源消耗等挑战，指出当前AI发展模式存在系统性风险。
生成式AI被认为将改变世界，但现实却充满矛盾。行业往往以代币消耗量作为成功指标，而非实际创造的价值。这种现象被称为“古德哈特定律”——当指标成为目标，它就不再是好的指标。MIT的一项报告指出，95%的生成式AI部署未能产生任何回报，因为市场高度依赖补贴，定价远低于真实成本。
代币浪费问题尤为突出。许多系统使用用户看不见但仍需付费的“思考”代币，在复杂任务中这些代币可占总数的33%到60%。此外，每次请求都会附带对话历史或无关数据，形成“结构性浪费”。标准Transformer的注意力机制具有二次时间和内存复杂度，上下文长度翻倍，计算量和内存需求大约翻四倍。
智能体AI加剧了这一问题。它们通过多步骤工作流而非单次交互运行，执行规划、动作序列，同时预置整个对话历史和执行轨迹，导致“上下文膨胀”。Uber在2026年四个月内就耗尽了全年编码预算。成本非线性且不可预测，不少团队发现运行智能体的成本高于构建成本。
行业存在“循环问题”：科技巨头投资AI初创公司，后者又用这些资金购买投资方自身的云服务。这种繁荣越来越多依赖债务而非现金流，若收入增长未能实现，将引发系统性风险。企业面临财务波动，因为代币成本非线性且不可控。
AI模型性能提升进入瓶颈。排行榜第一名与第十名之间的分数差距在一年内从11.9%缩小至5.4%，但训练计算量每几周至几月翻一番，功耗同步增长。这就是“资本军备竞赛”——为获取边际优势投入巨大资源。然而，杰文斯悖论指出，代币单价下降反而导致总消耗量激增，因为更便宜的智能催生了全新的工作流和自主代理，消耗指数级更多的代币。
算法并非客观。AI继承并放大了训练数据中的偏见。例如，亚马逊的招聘AI因训练数据中男性占主导，学会了惩罚包含“女性”一词的简历。大语言模型本质上是概率性的，旨在预测下一个标记，而非输出真理，因此容易产生“幻觉”——听起来合理但事实上错误的输出，在医疗等高风险领域尤为危险。
行业还面临“开放洗涤”问题：公司发布“开放”权重，却保留训练数据和流程，使模型看似透明实则无法独立审计。这加剧了“黑箱”问题——深度神经网络内部运作不透明且不可解释。可解释AI（XAI）领域通过SHAP、LIME等技术提供特征贡献分析，但整体上仍有很长的路要走。
AI在软件开发中的应用增长迅速，编程查询在OpenRouter平台上的占比在一年内从11%升至超过50%。这得益于AI擅长处理编程的规则逻辑，但也导致开发者角色面临压力。同时，资源消耗巨大：训练GPT-3耗用了约70万升淡水用于冷却，预计到2027年全球AI用水需求相当于英国总取水量的一半。
尽管AI公司承诺医疗突破，现实却由经济激励和技术限制塑造。行业需要正视这些挑战，重新思考衡量成功的方式，否则可能陷入代价高昂的泡沫。