关于变革性AI的一封私人信函
这篇文章是一封私人信件，作者George Rosenfeld向家人朋友解释为何他认为AI可能在未来几年彻底改变世界，并对当前的发展轨迹表示担忧。他讨论了AI自动化一切人类工作的可能性、快速进步的趋势、以及可能带来的巨大风险和机遇。
人工智能的发展正以超乎想象的速度推进，有可能在未来几年内彻底改变人类社会的方方面面。这是George Rosenfeld在给亲友的一封私人信函中表达的核心观点。作为Coefficient Giving全球灾难风险副主任，他负责Navigating Transformative AI项目，专注于思考AI可能带来的极端情景，并致力于帮助世界做好准备。
Rosenfeld坦言，这些想法听起来像是科幻小说：AI系统能在所有人类任务上超越人类，科学进步在数月内完成数十年进展，甚至人类可能失去对世界的掌控。尽管这些情景并非主流观点，他本人也曾长期持怀疑态度，但过去两年中，他的保守预测屡次被AI的实际进展打破，使他越来越相信这些可能性正在逼近。
他认为AI与传统技术的根本区别在于，它有可能自动化人类的全部工作，包括曾经专属人类的开放式思考。这不仅意味着大规模失业，更标志着经济模式的根本转变——因为人类劳动不再是科学和经济进步的瓶颈。超级AI的出现可能使数百年的进步压缩在数年之内，其变化规模堪比从1500年至今的巨变，但适应时间却短得多。
当前AI能力正快速提升。2022年的ChatGPT尚可应对简单对话，而到2024年，顶级AI已能通过律师资格考试并获国际数学奥赛银牌，2025年更夺得金牌。2026年初，AI代理已能独立完成需专业程序员数小时的软件项目。METR的测量显示，AI系统的时间线（即自主完成软件任务的难度）自2019年以来每七个月翻一番，近期更加速为四个月。
投资数据进一步印证了这种趋势。AI公司Anthropic的年化收入从2023年底的1亿美元飙升至2025年底的90亿美元，而五大科技公司2026年对AI基础设施的投入预计超过6000亿美元——远超阿波罗计划的整个开销。这些数字虽不能保证AI定能变革经济，但与能力提升的趋势结合，表明要么AI进展很快遇到瓶颈，要么它将成为全球经济的核心动力。
Rosenfeld特别引用了前同事Ajeya Cotra的预测：AI可能在2026年底前完成24小时的软件工程任务，而目前她认为这一能力可能已无上限。Cotra预计，到2030年代初，AI或能在所有计算机任务上超越顶尖人类专家，体力劳动的自动化也将随后实现。
尽管存在不确定性，Rosenfeld认为世界正站在历史的转折点上。他希望通过分享这些想法，促使更多人关注和讨论AI可能带来的挑战与机遇，以便更好地应对即将到来的变革。