应对人工智能的爆炸式增长——对抗灾难论

政策制定者习惯于用有限、可衡量的术语思考，如法律、预算和项目实施。然而，人工智能不再沿着直线或公共管理的熟悉边界前进。相反，它似乎沿着指数曲线加速，重塑预期的速度超过了机构可能适应的速度。对许多观察者来说，这感觉不像是离散的一系列进步，而更像是一个不可控甚至令人恐惧的、开放式的增长事件。首先，我将进行历史比较，以展示早期的“无限”增长事件（如工业革命和互联网兴起）如何引导人类创造理解变化的新框架。然后，我将利用这些历史平行点来指导我们如何看待当今的AI增长事件。

过去的“无限”通过围绕工业生产和数字通信的新概念框架而得以稳定。我们应该考虑将这些框架应用于大型语言模型（LLM）带来的知识本身的指数增长。未来的政策挑战不是限制进步，而是鼓励市场机制公正地分配资本，同时制定规则，帮助政策制定者在新的领域中工作。

过去 工业革命是第一个看似不受限制的经济增长事件的例子。在1750年到1900年间，世界以任何人无法想象的速度变化。地球上的人口翻了三倍，使用的能源增加了十倍，工厂的产出每几十年翻一番。几个世纪以来，领导者和思想家基本上将经济视为周期性的[1]。随后，化石燃料和可互换零件带来的增长迫使我们重新思考这一概念。

政策制定者面对这种新的增长规模，并没有试图阻止它，而是发明了使其可管理的抽象概念。时间标准化将地方时间同步为全球时钟，公制系统用通用单位取代了区域度量，国民收入核算将无数交易转化为GDP等总量，使工业扩张既易于理解又便于管理。然而，即使是这种看似无限的增长幻象也遇到了极限。资源稀缺和收益递减施加了自然渐近线，将指数扩张减缓为更温和的S曲线（参见数学附录）。

如果工业革命代表了物质和能量的无限，那么20世纪末则带来了信息的无限。当计算机科学家描述算法扩展的效率时，他们使用“大O符号”来表征运行时间如何随输入增长：例如，O(n)过程线性扩展，而O(2ⁿ)指数扩展。然而，数字世界不仅增长更快，而且以类似于更陡峭复杂度类别的方式增长。从1980年到2020年，全球数字存储容量增长了超过十亿倍，连接设备的数量接近超指数曲线，随着每个附加节点乘以可能的通信路径数量，接近O(n!)。[2]这种连接性的爆炸看似无边无际，一个信息奇点，其中约束从物理稀缺转变为认知过载：有限的人类注意力如何处理实际上无限的数据？人类并没有试图阻止这种增长，而是通过组织框架来塑造它。TCP/IP协议栈和HTTP标准组织了机器之间如何通信。PageRank[3]（谷歌搜索算法的基础）通过数学评估相关性将秩序强加于混乱，使庞大、无结构的互联网变得可导航。

然而，随着时间的推移，这种信息无限遇到了一个基本极限：人类注意力[4]。连接设备和数据流的数量继续指数增长，但人类可用于消费的时间保持不变。我们仍然处于这一信息增长事件中，但其轨迹现在也趋向于渐近线。注意力成为带宽或存储都无法克服的瓶颈。

连续经济增长事件的形状