我知道我能，但我应该吗？人工智能淘金热中的能力与意图

Dave，这位曾在Google工作17年、担任过SRE工程总监的资深可靠性专家，在AI Builder Series的访谈中提出了一个尖锐的问题：“我知道我能，但我应该吗？”他以独特的视角——那些必须清理代码生成器遗留问题的可靠性工程师的视角——剖析了当前AI淘金热中的核心矛盾：能力已远超意图判断。

Dave指出，AI赋予了团队巨大的代码生成能力，但这种能力已跑赢判断。人们现在几乎可以构建任何东西，但很少有人停下来思考是否应该构建。运营和可靠性团队正在承受所有过快决策带来的下游后果。他特别强调，那种“知道配置文件语言”的专家价值正在崩溃，因为AI已经民主化了这类知识。未来的价值将体现在启发式思维、问题分解、利益相关者管理和架构级思考上——也就是将意图转化为能力的“无聊”翻译工作。

关于供应链信任，Dave认为“信任”是错误的框架。根本没有人类在循环中可信任，只有人们在放弃验证责任。LiteLLM和Trivy漏洞等事件表明，攻击者在几分钟内就能行动（甚至在密钥轮换期间），当前信任软件和事件响应的方法正在失效。他倾向于购买这类能力（如Chainguard、Cloudsmith），而不是每个公司都自己构建。

Dave还批评了MTTR（平均恢复时间）作为优化指标的价值，认为它只是更快地堵漏，而忽略了有多少漏洞。更有意义的是MTBF（平均故障间隔时间）和旨在系统性变革的事后分析，以便故障以新颖而非重复无聊的方式出现。他说“让大家都不那么做”不是解决方案，因为人员流动后新人会重复同样的错误。

他将当前AI热潮与90年代末的宠物网（pets.com）泡沫相类比：资金被抛向“看看什么能粘住”。洗牌终将到来，幸存的是那些对人类基础有用的东西，就像Google从废墟中崛起仅因让信息可被找到。他的建议是“冲向火堆”，解决那些无论AI如何发展都存在的真正难题。

对于模型选择，Dave指出前沿模型在架构上并不如营销暗示的那样不同，差异化多在于品牌。按token定价（如Copilot的变化，便宜和高级模型之间相差约5倍）以及有例子显示Harvey发现开放模型每任务成本更低，企业真正的问题不是模型是否更好，而是是否足够好且更便宜。

最后，Dave提出了一个常被忽视的信号：主要AI提供商即将大幅涨价。他对此感到兴奋的是自托管“足够好”、可围护、自有的模型，以及后调整浪潮中真正以人为本的产品——那些过滤噪音、呈现一二件值得人类判断的事、让生活更轻松的产品，而不是假装对话并让人焦虑。