上週，我有幸在首爾舉行的國際機器學習大會上發表了題為“我們還有哪些工作可以做？”的主題演講。演講旨在回應隨著AI能力提升而產生的普遍焦慮，討論我們應如何適應這一變革。演講反響熱烈，因此我將幻燈片和經過輕微編輯的講稿在此分享。
我提出了三個核心論點。首先，“AI作為正常技術”框架是思考AI影響的正確且有用的方式，除非未來出現如遞迴自我改進之類的斷裂性變化。其次，儘管我們應認真對待遞迴自我改進的可能性，但沒有任何實驗室里程碑會突然導致全員失業。第三，未來的工作將發生根本性變革，需要大規模的適應。我分享了自己對未來工作形態的思考，並以人類與AI的“協同超級智能”願景作結。
當前AI領域既充滿興奮也伴隨著焦慮。我領導的普林斯頓大學團隊致力於推進AI代理評估科學，試圖超越單純的“能力提升”論述。我們關注的是可靠性等實際部署因素，而不僅僅是準確率。我們的研究發現，當前的代理評估過分強調能力，卻忽略了可靠性——包括一致性、魯棒性、校準和操作安全等多個維度。例如，一個號稱70%準確率的代理，可能意味著它在70%的任務上每次都成功，也可能在任何任務上有30%的失敗概率，但現有基準並未區分這兩種情況。
為理解AI的經濟影響，我們借鑒了電力的歷史。電力並未通過簡單替換蒸汽機而發揮作用；它需要長達40年的組織變革，包括工廠重新佈局、勞動法更新和工人培訓。同樣，AI的適應階段——第四階段——可能需要數十年，甚至在軟體工程這樣早期採用編碼代理的領域也尚未真正開始。我們推測，未來的軟體將高度個性化，為每個團隊量身定制，甚至可能導致軟體公司形態的變化。
因此，當前的關鍵是培養與AI互補的技能，如判斷力、品味和能動性，而不是恐慌性地積累財富。如果AI最終是增強而非取代人類技術，那麼錯過現在這個歷史性機會將是巨大的損失。