AGI並非里程碑

隨着OpenAI發佈最新模型o3，關於通用人工智能（AGI）是否已經實現的爭論再度升温。懷疑論者通常指出，AGI缺乏共識定義，但這忽略了關鍵點：如果AGI如此重要，它是否應當顯而易見？本文認為，AGI並非里程碑，它不代表AI系統特性或影響的突變。即使公司聲稱實現了AGI，這一聲明也不具有可操作性，對商業、政策或安全無實際意義。

AGI與核武器的反類比

將AGI類比為核武器並不恰當。核武器具有明確的可觀察性（爆炸）和即時影響（戰爭結束），而AGI恰恰相反：它不可觀察，沒有明確的能力閾值，也不會立即改變世界。AI的經濟影響需通過數十年擴散才能實現，正如電力、計算和互聯網等通用技術的歷史所證明。

o3並非AGI的證據

o3的創新在於使用強化學習來學習搜索網絡和使用工具，從而能執行更複雜的認知任務。但即使設想一個更強大的o3類系統，它能在許多任務上超越人類，卻仍然會在現實世界任務中失敗，因為它無法從經驗中學習（除非顯式更新訓練）。因此，o3雖然可能滿足某些AGI定義，但無法帶來實際影響。

經濟影響需數十年

AGI不會導致經濟突然變革，因為技術擴散需要數十年。瓶頸包括產品開發、勞動力培訓、組織變革和法律規範。人類會適應並轉向未自動化的任務。沒有證據表明AI產生即時經濟衝擊。

地緣政治影響有限

美中AI競賽中，發明（模型開發）本身不是持續優勢的來源，因為技術能力迅速擴散。真正重要的是哪國能更好地促進擴散。中國在模型能力上落後不多，但在數字化、雲計算和勞動力培訓等促進擴散的指標上顯著落後。因此，政策制定者應關注擴散而非AGI。

長期經濟影響不確定

AGI能否帶來10%的年GDP增長？歷史上的工業革命實現了，但互聯網幾乎沒有改變GDP增長率。加速增長需要消除瓶頸，而瓶頸往往不是技術本身，而是文化、經濟和政治因素。當前的法律制度已經限制了增長，要釋放AI潛力需要巨大的結構性變革。

風險在於權力而非能力

AGI風險討論常混淆能力（正確完成任務）與權力（改變環境的能力）。權力取決於我們如何設計AI運行環境，人類對此有主動權。無論能力如何提升，我們可以選擇讓AI保持工具角色，不賦予其自主權。商業激勵和監管可以加強這種控制。

不會導致超級智能

AGI不意味着即將到來的超級智能。即使AI能幫助AI研究，創新和擴散仍以人類速度進行。存在許多瓶頸（數據收集、計算成本、社會惰性），且遞歸自我改進並非必然。我們需要預警系統，但這與AGI定義無關。

我們無法知道何時實現AGI

AGI定義有三類：基於影響、基於內部結構、基於基準性能。每類都有致命缺陷。影響定義是範疇錯誤，因為依賴世界狀態而非系統本身；內部定義難以操作；基準定義鼓勵刷分而無實際用處。因此，“看到就知道”的標準失敗，不同人因關注領域不同而有不同直覺。

給企業和政策制定者的建議

企業不應急於採用半生不熟的AI產品，應謹慎實驗。AI產品開發者需深入理解領域障礙。政策制定者應放棄“AGI曼哈頓計劃”，轉而促進擴散。出口管制意義有限，因為幾個月領先在幾十年的擴散遊戲中無關緊要。

總之，將AGI視為里程碑是有誤導性的。AI的影響通過數百萬次無聊的業務流程調整和政策微調實現，而非奔向神奇技術的衝刺。