AI并非在超越数学家,而是在超越他们的记忆
文章提出,AI在数学上的出色表现,可能并非源于更深的推理能力,而是因为其超大的上下文窗口提供了一个巨型外部符号工作空间,绕过了人类工作记忆的瓶颈。心理学研究表明,工作记忆对数学成绩的预测力可超越IQ,这有助于解释AI的优势;但面对含义不稳定、信息缺失的非正式推理,扩大记忆并不能解决问题。
1952年,普林斯顿高等研究院为其计算机举行落成典礼。当时的学者或许难以想象,如今一个AI系统能够解决困难的数学问题。常见的解释是:它吸收了海量数学例子,强化学习教会了它更好的策略,或者它正在发展某种接近真实数学直觉的能力。这些解释也许都有道理,但作者指出,它们忽略了一个更朴素的可能性:AI拥有远超人脑的工作记忆,或者说,一个执行类似功能的外部符号工作空间。与其将AI比作电子版爱因斯坦,不如说它是被机器放大的冯·诺依曼——拥有巨大的速度、广度和符号记忆。
工作记忆是让我们在短时间内保持并操作信息的心理系统。解方程时,必须记住变量含义、已完成运算和当前目标;证明时,则要追踪假设、中间引理、例外情形和多种可能分支。然而,人类工作记忆的容量极其有限。试着心算两个三位数相乘,底层运算并不难,难的是在继续计算的同时保留中间结果。把数字写下来,问题就变了——纸没有让你变聪明,而是扩展了你的有效工作记忆。数学家使用记号、草稿纸、图示和先前写下的引理,不仅仅是为了沟通,更是为了让推理在认知上成为可能。专家通过“组块化”把熟悉结构压缩成一个概念对象,但组块化只是压缩信息,并未消除生物限制。
工作记忆对数学的重要性体现在个体差异中。工作记忆与一般智力密切相关,那么它是否独立预测数学表现?多项研究给出了肯定答案。Alloway与Passolunghi(2011)发现,工作记忆对儿童数学成绩的贡献超越了言语能力;Alloway与Alloway(2010)的六年追踪研究显示,五岁时的工作记忆可预测后来的读写和计算能力,甚至在控制IQ后依然如此,且预测力强于研究使用的IQ指标;Blankenship等人(2015)报告,控制IQ和年龄后,工作记忆仍能解释数学流畅性和计算中的独特变异;Friso-van den Bos等人(2013)的元分析也在小学阶段发现工作记忆与数学之间的一致关系,尽管强度因任务类型而异。作者提醒不应夸大这些结果:工作记忆与智力高度重叠,统计控制无法完美分开机制,训练工作记忆也未必带来大幅提升。但较窄的结论依然重要:在智力相似的儿童中,保持、更新和操作信息的能力仍能预测数学差异。
这些发现为理解AI提供了关键线索。如果人类数学表现部分受限于工作记忆瓶颈,那么给机器一个巨大的符号工作空间,就改变了竞赛性质。现代语言模型的上下文窗口可以一次性处理极长的token序列,包含原题、定义、示例、中间计算以及模型自身先前的推理。这并非人类工作记忆的等价物,更像是一本巨大的外部笔记本,加上一套并不完美的检索和使用系统。人类拥有私下持续更新的内部记忆,而标准语言模型最稳定的记忆是已经生成的token——当模型写出“x=6”再写“x+3=9”,这些语句留在上下文中,后续生成可以再次注意它们。因此,模型的推理常常是外化的:文本不只是已完成的思考过程的报告,它本身就是推理发生机制的一部分。人类用草稿纸时也类似,但规模差异巨大:无辅助的人可能难以同时保持五个陌生条件,AI却能以显式形式保存几十甚至上百个条件。当然,长上下文不等于完美可用,模型也会遗漏或分心,但潜在容量差异仍然巨大。
这种优势在数学领域尤其明显,因为数学推理可以异常充分地转化为显式符号。假设、定义、已知方程、当前目标、已证结论、被排除的情形、每步成立的条件,几乎都能写下来,而且一旦写下就保持稳定。一个被定义为整数的x不会因情绪或语境而变成非整数;严格不等式不会逐渐变成非严格不等式。符号设计就是为了减少歧义。因此,数学几乎完美适配一个通过大型文本工作空间运作的智能体。考虑一个需要记住“n为奇数、p为素数、x≠0,并且某一分支已导出矛盾”的问题。人类可能理解基本策略,却忘记先证明x≠0就除以x;这未必是智力不足,而可能是“记账”失败。AI可以在每一步重述这些约束,把上下文变成推理状态的总账。很多困难数学问题在开头包含一个深刻的洞察,但之后还有大量不引人注目的工作:展开表达式、检查情形、将条件贯穿变换、确认最终结论与每个早期假设相容。机器不需要拥有比人类更深的洞察力,它也许只是更擅长在长序列操作中保留问题的完整状态。
数学是高度组合式的,证明常可表示为A→B→C→D。只要每步有效并准确保留链条,结论就成立。大工作空间使模型能构造更长的链条而不丢失线索。问题的难度不仅取决于单步难度,还取决于需要协调的步数。一个人能理解100步论证中的每一步局部推理,却未必能独立生成整个论证,因为其全局结构超出了该人的维持能力。AI可以把几乎所有东西写下来,从而弥补这一点。这也解释了为什么更多“思考时间”往往改善模型表现:更多计算意味着更多中间状态、更多备选分支和更完整的局部结论。看起来像是更深的思考,有时只是在更大的笔记本里进行更广的搜索。
但非正式推理并非如此。比如“Maria为什么突然不再回我消息?”即使上下文窗口能检查多年通信,决定性信息可能仍然缺失——她可能在生气、忙碌、生病、丢了手机,或逃避某个无关问题。再多的记忆也检索不到从未观察到的事实。问题不只是保存一组已知前提并推出结论,而是在隐藏原因下进行不确定性推理。非正式推理还依赖含义不稳定的概念:“公平”“成功”“负责”“有害”“聪明”这些词没有数学变量的精确性,意义取决于文化、目标和语境。模型可以记住讨论中的每一句话,却仍然误解参与者的意思。政治分析、历史解读、商业策略和心理判断也一样。在这些领域,核心问题往往不是工作记忆容量。理解这一点,有助于我们更准确地评估AI的能力边界:它的记忆优势并非普适,而是特别适用于那些可以被显式符号化、长链推导的领域。