你未來的工作將是讓AI保持專注

諾亞·史密斯在其近期發表的文章中指出，隨着AI技術的飛速發展，特別是像Claude Code這樣的編程助手出現，工程師們過去從事的複雜腦力工作正逐漸被自動化取代。這引發了人們對未來人類角色的擔憂。然而，作者並不認同“人類將被完全取代”的悲觀論調，而是提出了一個新穎的觀點：未來人類的核心工作將是“對齊”任務——確保AI的目標與人類目標一致。

史密斯借用經典電影《上班一條蟲》中的角色來闡述他的觀點。電影中，看似平庸的經理比爾·朗伯通過督促工程師填寫無聊的報表，實際上是在維持公司目標與個人工作的對齊。在史密斯看來，未來人類將扮演類似朗伯的角色，監督日益自主的AI系統，防止它們出現“獎勵黑客”或偏離原始目標等失控行為。

此外，文章還深入探討了當前AI生成內容氾濫的問題，即所謂的“污泥”（slop）現象。史密斯指出，超過三分之一的新網站由AI生成，超過一半的互聯網流量來自AI，甚至法庭文件和新聞文章中也充斥着AI產物。這種低質量內容的泛濫進一步凸顯了驗證和審核工作的重要性。他認為，在接下來的幾年裏，人類的工作將逐漸從技術操作轉向驗證AI輸出，最終演變為全職的“對齊”維護。

史密斯總結道，人類不必擔心被AI取代，而是將承擔起更高級的監督職責——保持AI在正確的軌道上。這需要深刻的理解力和判斷力，而這些正是人類相對於機器的優勢所在。