AI代理从专家走向白痴，而非成为专家

如果你将一个全新项目交给一位人类工作者，起初他们的表现会相当糟糕。但随着时间的推移，他们会逐渐积累经验、加深理解、形成直觉。他们分析问题、回答深层问题以及开展有意义工作的能力会持续发展，最终成长为专家（前提是他们具备动力）。

AI代理则呈现完全相反的轨迹。它就像是本杰明·巴顿版本的新手到专家时间线。当项目规模较小时，AI代理表现得如同专家：它能快速分析、回答问题、完成实际工作。然而，随着项目不断壮大，其上下文窗口的根本性局限逐渐暴露。它越来越频繁地采取投机取巧的方式：打破抽象层、复制代码、偏离既定指南，甚至在完全不了解后果的情况下进行修改。

你对人类工作者的信任会随着时间推移而增强，但对AI代理的信任却会逐渐减退。

我反复看到（自己也曾犯下）的一个错误就是把AI置于人类之上。AI是一个相当不错的顾问，但却是个糟糕的领导者。每当我开始产生“好吧，代理，你觉得怎么好就怎么来”的冲动时，我就知道是时候关掉它了。良好的判断需要深刻的理解，而放任这种理解流失是极其危险的。亚马逊要求资深员工审查所有借助AI完成的代码变更，这充分说明工作必须与能够把握全局的专家紧密结合。

有趣的是，AI同时铺就了两条截然不同的道路：它既使我们将思考外包给机器变得更加容易，也使我们追求更深层次的理解变得更加便捷。能够快速收集、整合信息，并深入探究任何一个模糊的概念点，这确实令人惊叹。与此同时，你也只需一次按键就能“把事做完”，并且这种方式在当前阶段很可能运行良好。

我认为我们仍处在一个形成期。真正承认“代理式编程”有用（除了那些兜售它的人之外）也不过是大约6个月之前的事。我正在努力确保自己的心智模型正确形成，并尽可能使我的习惯和决策保持健康且以人为中心。我认为，在AI辅助编程中强调“辅助”二字至关重要。