AI代理從專家走向白痴，而非成為專家

如果你將一個全新專案交給一位人類工作者，起初他們的表現會相當糟糕。但隨著時間的推移，他們會逐漸積累經驗、加深理解、形成直覺。他們分析問題、回答深層問題以及開展有意義工作的能力會持續發展，最終成長為專家（前提是他們具備動力）。

AI代理則呈現完全相反的軌跡。它就像是本傑明·巴頓版本的新手到專家時間線。當專案規模較小時，AI代理表現得如同專家：它能快速分析、回答問題、完成實際工作。然而，隨著專案不斷壯大，其上下文視窗的根本性侷限逐漸暴露。它越來越頻繁地採取投機取巧的方式：打破抽象層、複製程式碼、偏離既定指南，甚至在完全不瞭解後果的情況下進行修改。

你對人類工作者的信任會隨著時間推移而增強，但對AI代理的信任卻會逐漸減退。

我反覆看到（自己也曾犯下）的一個錯誤就是把AI置於人類之上。AI是一個相當不錯的顧問，但卻是個糟糕的領導者。每當我開始產生“好吧，代理，你覺得怎麼好就怎麼來”的衝動時，我就知道是時候關掉它了。良好的判斷需要深刻的理解，而放任這種理解流失是極其危險的。亞馬遜要求資深員工審查所有藉助AI完成的程式碼變更，這充分說明工作必須與能夠把握全域性的專家緊密結合。

有趣的是，AI同時鋪就了兩條截然不同的道路：它既使我們將思考外包給機器變得更加容易，也使我們追求更深層次的理解變得更加便捷。能夠快速收集、整合資訊，並深入探究任何一個模糊的概念點，這確實令人驚歎。與此同時，你也只需一次按鍵就能“把事做完”，並且這種方式在當前階段很可能執行良好。

我認為我們仍處在一個形成期。真正承認“代理式程式設計”有用（除了那些兜售它的人之外）也不過是大約6個月之前的事。我正在努力確保自己的心智模型正確形成，並儘可能使我的習慣和決策保持健康且以人為中心。我認為，在AI輔助程式設計中強調“輔助”二字至關重要。