人工智能的瓶颈从来不是智能

过去两年，整个行业围绕一个问题组织起来：哪个模型最聪明。基准测试、排行榜、参数数量，每周都在争夺最高分。这是一场引人入胜的竞赛，但它即将不再提供任何有用的信息，因为智能正在成为廉价的输入。真正稀缺、决定胜负的输入，是信任。

这个说法听起来有些软性，但它是系统中最为具体的东西。

看看当一个职业的智能不再稀缺时会发生什么。以会计为例。在很短的时间内，任何规模的会计师事务所都将拥有能干的AI来执行曾经让他们脱颖而出的工作。胜出的公司将不是使用AI的那家，因为这将适用于所有公司。胜出的将是客户信任能为其输出背书的那家：能够解释一个数字是如何得出的，在监管机构追问时承担责任，吸收客户自己不想承担的不确定性。同样的逻辑也贯穿法律、保险、医疗、招聘和政府服务。问题已经从“系统能这样做吗”转变为“我能信任它这样做吗，在这里，在我的风险面前”。这是两个不同的问题，只有第二个问题还保留着商业价值。

这就是为什么采用率总是因为与能力无关的原因而失败。一个团队接受一个工具，而隔壁团队悄悄拒绝使用它，这几乎从来不是因为技术问题。而是相关人员是否信任系统一旦介入后，他们的工作、判断和地位会发生什么。实施预算花在了集成和培训上，几乎没有花在真正的瓶颈上——人类愿意交出决策。信任是每个部署之下的基础设施，却是在架构图上没有人画出的那一层。

在国家层面上，这种模式变得更加清晰，而且目前有一个活生生的例子正在上演。当政府投资于永远无法达到前沿水平的主权模型时，批评者称之为虚荣支出。他们忽略了真正买的是什么。不是优越性，而是信任：当政治风向改变时，关键系统仍然可用并在自己控制之下的能力。美国商务部对Anthropic的Mythos级别模型的指令使这个抽象论点突然变得具体：一套“可信赖合作伙伴”赖以运营的能力因他人的政策决定而被关闭，外交后果让每个观看的政府都清楚地知道依赖的代价。AI中的主权一直是一个穿着工程外衣的信任问题。出口管制只是脱掉了那件外衣。

同样的修正也适用于就业讨论。“AI将取代多少工作”只会引发恐慌，而不能带来洞察。更有用的是：当一个职业中智能不再是稀缺资源时，什么变得有价值？答案是智能本身无法提供的一切：决定采取哪个答案的判断力，出错时对后果的责任感，让客户直接联系你而不是系统的关系。这些一直是任何角色中高级的、难以替代的部分。丰富的智能并不会消除它们，而是剥离了围绕它们的日常工作，让它们暴露得更明显，也更有价值。

因此，讽刺之处在于整个事情的中心。这些系统越强大，约束条件就越不是智能，而是信任。一封平庸的AI写的电子邮件如果错了几乎不花任何成本。但在招聘决策、诊断、索赔流程或基础设施系统内部的AI则承载着真实后果，而后果正是信心必须赢得而非假设的地方。下一阶段的价值将不仅仅归属于建造最强大模型的人，还将归属于解决其他人视为事后问题的人：帮助人们理解、治理、审计并实际上与这些系统并肩工作。前沿实验室本月正在艰难地学习这一点。市场的其他部分也即将体验到。