态势感知：未来十年（2024）

利奥波德·阿申布伦纳（Leopold Aschenbrenner）在2024年6月发表了一篇题为《态势感知：未来十年》的长文，指出人工智能的发展速度远超主流预期。他认为，旧金山已经率先看到了未来：过去一年里，关于计算集群的讨论从100亿美元跃升至1000亿，再到1万亿美元，每六个月就增加一个数量级。各大公司正在争夺电力合同和电压变压器，美国工业界准备投入数万亿美元，到本十年末，美国的发电量将增长数十个百分点，数亿颗GPU将投入使用。

阿申布伦纳认为，AGI（通用人工智能）竞赛已经开始。到2025/26年，这些机器的能力将超过许多大学毕业生；到本十年末，它们将比人类更聪明，实现真正意义上的超级智能。与此同时，国家安全力量将大规模介入，最终形成类似曼哈顿计划的政府项目。如果幸运，美国将与中国展开一场全面竞赛；如果不幸，则可能爆发战争。

然而，大多数人对即将到来的巨变毫无察觉。Nvidia的分析师仍认为2024年可能是峰值，主流评论家则沉溺于“只是预测下一个词”的盲目中。只有旧金山和AI实验室里的少数人拥有真正的态势感知。这些人在过去几年曾被嘲笑为疯子，但他们靠趋势线正确预测了AI的进步。他们可能是历史上的怪人，也可能成为像西拉德、奥本海默和泰勒那样的人物。

文章的核心论证分为几个部分。首先，从GPT-4到AGI的路径：GPT-2到GPT-4用了四年，从学龄前水平跃升到聪明高中生水平。考虑到算力（每年约0.5个数量级）、算法效率（每年约0.5个数量级）和“去束缚”效应，到2027年有望再次实现类似的质的飞跃。其次，从AGI到超级智能的智能爆炸：一旦机器达到人类水平，数百万个AGI可以自动进行AI研究，将十年的算法进步压缩到一年以内，从而迅速超越人类。

文章还讨论了三大挑战。第一，万亿集群的竞赛：随着AI收入快速增长，数万亿美元将投入GPU、数据中心和电力建设，这是一场前所未有的技术-资本加速。第二，实验室安全：目前领先的AI实验室对安全毫不在意，几乎等于把AGI的关键秘密拱手送给中国共产党。保护AGI的机密和权重免受国家级威胁将极其困难，而目前并未走上正轨。第三，超级对齐：可靠地控制比我们聪明得多的AI系统是一个尚未解决的技术问题。虽然可解，但在快速智能爆炸中很容易失控，失败可能是灾难性的。此外，自由世界必须获胜：超级智能将带来决定性的经济和军事优势，中国尚未出局，自由世界的生存将受到威胁。

阿申布伦纳预测，随着竞赛加剧，国家安全体制将介入。美国政府会从沉睡中醒来，到2027/28年可能出现某种形式的政府AGI项目。没有任何初创公司能独自应对超级智能。最终结局将在某个保密情报设施（SCIF）中上演。他最后问道：如果我们是对的怎么办？