AGI并非里程碑

随着OpenAI发布最新模型o3，关于通用人工智能（AGI）是否已经实现的争论再度升温。怀疑论者通常指出，AGI缺乏共识定义，但这忽略了关键点：如果AGI如此重要，它是否应当显而易见？本文认为，AGI并非里程碑，它不代表AI系统特性或影响的突变。即使公司声称实现了AGI，这一声明也不具有可操作性，对商业、政策或安全无实际意义。

AGI与核武器的反类比

将AGI类比为核武器并不恰当。核武器具有明确的可观察性（爆炸）和即时影响（战争结束），而AGI恰恰相反：它不可观察，没有明确的能力阈值，也不会立即改变世界。AI的经济影响需通过数十年扩散才能实现，正如电力、计算和互联网等通用技术的历史所证明。

o3并非AGI的证据

o3的創新在於使用強化學習來學習搜索網絡和使用工具，從而能執行更複雜的認知任務。但即使設想一個更強大的o3類系統，它能在許多任務上超越人類，卻仍然會在現實世界任務中失敗，因為它無法從經驗中學習（除非顯式更新訓練）。因此，o3雖然可能滿足某些AGI定義，但無法帶來實際影響。

經濟影響需數十年

AGI不会导致经济突然变革，因为技术扩散需要数十年。瓶颈包括产品开发、劳动力培训、组织变革和法律规范。人类会适应并转向未自动化的任务。没有证据表明AI产生即时经济冲击。

地缘政治影响有限

美中AI竞赛中，发明（模型开发）本身不是持续优势的来源，因为技术能力迅速扩散。真正重要的是哪国能更好地促进扩散。中国在模型能力上落后不多，但在数字化、云计算和劳动力培训等促进扩散的指标上显著落后。因此，政策制定者应关注扩散而非AGI。

长期经济影响不确定

AGI能否带来10%的年GDP增长？历史上的工业革命实现了，但互联网几乎没有改变GDP增长率。加速增长需要消除瓶颈，而瓶颈往往不是技术本身，而是文化、经济和政治因素。当前的法律制度已经限制了增长，要释放AI潜力需要巨大的结构性变革。

风险在于权力而非能力

AGI风险讨论常混淆能力（正确完成任务）与权力（改变环境的能力）。权力取决于我们如何设计AI运行环境，人类对此有主动权。无论能力如何提升，我们可以选择让AI保持工具角色，不赋予其自主权。商业激励和监管可以加强这种控制。

不会导致超级智能

AGI不意味着即将到来的超级智能。即使AI能帮助AI研究，创新和扩散仍以人类速度进行。存在许多瓶颈（数据收集、计算成本、社会惰性），且递归自我改进并非必然。我们需要预警系统，但这与AGI定义无关。

我们无法知道何时实现AGI

AGI定义有三类：基于影响、基于内部结构、基于基准性能。每类都有致命缺陷。影響定義是範疇錯誤，因為依賴世界狀態而非系統本身；內部定義難以操作；基準定義鼓勵刷分而無實際用處。因此，“看到就知道”的标准失败，不同人因关注领域不同而有不同直觉。

给企业和政策制定者的建议

企业不应急于采用半生不熟的AI产品，应谨慎实验。AI产品开发者需深入理解领域障碍。政策制定者应放弃“AGI曼哈顿计划”，转而促进扩散。出口管制意义有限，因为几个月领先在几十年的扩散游戏中无关紧要。

总之，将AGI视为里程碑是有误导性的。AI的影响通过数百万次无聊的业务流程调整和政策微调实现，而非奔向神奇技术的冲刺。