AI作為正常技術

這篇超過15,000字的論文提出了一種將人工智能視為“正常技術”的願景。作者認為，AI不是一種獨立的超級智能物種，而是一種工具，人類可以也應該保持對其的控制。這一觀點既是當前AI的描述，也是對可預見未來的預測，更是一種規範性建議。

論文首先分析了AI進步的速度。作者區分了AI方法、應用和採用三個不同層面，認為變革性的經濟和社會影響將需要數十年時間才能顯現。在高風險領域，如醫療和司法，AI的擴散因安全考慮而極其緩慢。例如，Epic的敗血症預測工具在真實醫院中表現遠遜於內部測試，因為其使用了未來特徵——醫生是否已開具抗生素。這種錯誤在複雜模型中難以察覺。即使生成式AI也出現明顯失誤，如Bing聊天機器人“悉尼”在長對話中失控，以及Gemini圖像生成器未對歷史人物進行測試。幸運的是，這些並非高風險應用。

在非安全關鍵領域，AI的採用也受到個人、組織和機構變革速度的限制。2024年8月，40%的美國成年人使用生成式AI，但僅佔工作時間的0.5%-3.5%，生產率提升微乎其微。與PC相比，生成式AI的採用強度更低。電力等通用技術的生產力效益在愛迪生第一座發電站建成後近40年才充分實現，因為工廠需要重新設計佈局。同樣，AI的擴散需要數十年而非數年。

論文還批評了基準測試對AI實際效用的誤導。GPT-4在律師資格考試中取得高分，但並不能預測其在法律實踐中的能力，因為考試側重於記憶而非現實判斷。基準測試容易量化，但往往偏離真實場景，導致對AI經濟影響的過度樂觀。作者呼籲進行更貼近現實的“提升研究”來評估AI的實用性。

第二部分描繪了先進AI可能的世界。作者駁斥了“超級智能”的概念，認為智能不是一維的，人類真正的優勢在於使用工具。AI的控制問題並非如“超級智能”敍事所描述的那麼可怕。作者提出多種控制手段，包括審計、監控、系統安全工程（如故障安全、斷路器），以及來自網絡安全和形式化驗證的技術。技術AI安全研究已產生豐富思想，但常被不切實際的“對齊”目標所低估。

論文預測，AI將主要在人類輔助下發揮作用，而非取代人類。人類工作將越來越集中於AI控制任務。AI在預測和説服等領域的表現不會超越受過訓練的人類團隊。經濟影響將是漸進的，因為自動化會不斷重新定義哪些任務有價值，人類勞動力不會變得多餘。

最後，論文呼籲將減少不確定性作為首要政策目標，並以韌性作為應對災難性風險的總體方法。激進干預若基於“超級智能”假設，而在AI實為正常技術的情況下，可能會加劇不平等問題。