AI並非在超越數學家,而是在超越他們的記憶
文章提出,AI在數學上的出色表現,可能並非源於更深的推理能力,而是因為其超大的上下文窗口提供了一個巨型外部符號工作空間,繞過了人類工作記憶的瓶頸。心理學研究表明,工作記憶對數學成績的預測力可超越IQ,這有助於解釋AI的優勢;但面對含義不穩定、信息缺失的非正式推理,擴大記憶並不能解決問題。
1952年,普林斯頓高等研究院為其計算機舉行落成典禮。當時的學者或許難以想象,如今一個AI系統能夠解決困難的數學問題。常見的解釋是:它吸收了海量數學例子,強化學習教會了它更好的策略,或者它正在發展某種接近真實數學直覺的能力。這些解釋也許都有道理,但作者指出,它們忽略了一個更樸素的可能性:AI擁有遠超人腦的工作記憶,或者説,一個執行類似功能的外部符號工作空間。與其將AI比作電子版愛因斯坦,不如説它是被機器放大的馮·諾依曼——擁有巨大的速度、廣度和符號記憶。
工作記憶是讓我們在短時間內保持並操作信息的心理系統。解方程時,必須記住變量含義、已完成運算和當前目標;證明時,則要追蹤假設、中間引理、例外情形和多種可能分支。然而,人類工作記憶的容量極其有限。試着心算兩個三位數相乘,底層運算並不難,難的是在繼續計算的同時保留中間結果。把數字寫下來,問題就變了——紙沒有讓你變聰明,而是擴展了你的有效工作記憶。數學家使用記號、草稿紙、圖示和先前寫下的引理,不僅僅是為了溝通,更是為了讓推理在認知上成為可能。專家通過“組塊化”把熟悉結構壓縮成一個概念對象,但組塊化只是壓縮信息,並未消除生物限制。
工作記憶對數學的重要性體現在個體差異中。工作記憶與一般智力密切相關,那麼它是否獨立預測數學表現?多項研究給出了肯定答案。Alloway與Passolunghi(2011)發現,工作記憶對兒童數學成績的貢獻超越了言語能力;Alloway與Alloway(2010)的六年追蹤研究顯示,五歲時的工作記憶可預測後來的讀寫和計算能力,甚至在控制IQ後依然如此,且預測力強於研究使用的IQ指標;Blankenship等人(2015)報告,控制IQ和年齡後,工作記憶仍能解釋數學流暢性和計算中的獨特變異;Friso-van den Bos等人(2013)的元分析也在小學階段發現工作記憶與數學之間的一致關係,儘管強度因任務類型而異。作者提醒不應誇大這些結果:工作記憶與智力高度重疊,統計控制無法完美分開機制,訓練工作記憶也未必帶來大幅提升。但較窄的結論依然重要:在智力相似的兒童中,保持、更新和操作信息的能力仍能預測數學差異。
這些發現為理解AI提供了關鍵線索。如果人類數學表現部分受限於工作記憶瓶頸,那麼給機器一個巨大的符號工作空間,就改變了競賽性質。現代語言模型的上下文窗口可以一次性處理極長的token序列,包含原題、定義、示例、中間計算以及模型自身先前的推理。這並非人類工作記憶的等價物,更像是一本巨大的外部筆記本,加上一套並不完美的檢索和使用系統。人類擁有私下持續更新的內部記憶,而標準語言模型最穩定的記憶是已經生成的token——當模型寫出“x=6”再寫“x+3=9”,這些語句留在上下文中,後續生成可以再次注意它們。因此,模型的推理常常是外化的:文本不只是已完成的思考過程的報告,它本身就是推理發生機制的一部分。人類用草稿紙時也類似,但規模差異巨大:無輔助的人可能難以同時保持五個陌生條件,AI卻能以顯式形式保存幾十甚至上百個條件。當然,長上下文不等於完美可用,模型也會遺漏或分心,但潛在容量差異仍然巨大。
這種優勢在數學領域尤其明顯,因為數學推理可以異常充分地轉化為顯式符號。假設、定義、已知方程、當前目標、已證結論、被排除的情形、每步成立的條件,幾乎都能寫下來,而且一旦寫下就保持穩定。一個被定義為整數的x不會因情緒或語境而變成非整數;嚴格不等式不會逐漸變成非嚴格不等式。符號設計就是為了減少歧義。因此,數學幾乎完美適配一個通過大型文本工作空間運作的智能體。考慮一個需要記住“n為奇數、p為素數、x≠0,並且某一分支已導出矛盾”的問題。人類可能理解基本策略,卻忘記先證明x≠0就除以x;這未必是智力不足,而可能是“記賬”失敗。AI可以在每一步重述這些約束,把上下文變成推理狀態的總賬。很多困難數學問題在開頭包含一個深刻的洞察,但之後還有大量不引人注目的工作:展開表達式、檢查情形、將條件貫穿變換、確認最終結論與每個早期假設相容。機器不需要擁有比人類更深的洞察力,它也許只是更擅長在長序列操作中保留問題的完整狀態。
數學是高度組合式的,證明常可表示為A→B→C→D。只要每步有效並準確保留鏈條,結論就成立。大工作空間使模型能構造更長的鏈條而不丟失線索。問題的難度不僅取決於單步難度,還取決於需要協調的步數。一個人能理解100步論證中的每一步局部推理,卻未必能獨立生成整個論證,因為其全局結構超出了該人的維持能力。AI可以把幾乎所有東西寫下來,從而彌補這一點。這也解釋了為什麼更多“思考時間”往往改善模型表現:更多計算意味着更多中間狀態、更多備選分支和更完整的局部結論。看起來像是更深的思考,有時只是在更大的筆記本里進行更廣的搜索。
但非正式推理並非如此。比如“Maria為什麼突然不再回我消息?”即使上下文窗口能檢查多年通信,決定性信息可能仍然缺失——她可能在生氣、忙碌、生病、丟了手機,或逃避某個無關問題。再多的記憶也檢索不到從未觀察到的事實。問題不只是保存一組已知前提並推出結論,而是在隱藏原因下進行不確定性推理。非正式推理還依賴含義不穩定的概念:“公平”“成功”“負責”“有害”“聰明”這些詞沒有數學變量的精確性,意義取決於文化、目標和語境。模型可以記住討論中的每一句話,卻仍然誤解參與者的意思。政治分析、歷史解讀、商業策略和心理判斷也一樣。在這些領域,核心問題往往不是工作記憶容量。理解這一點,有助於我們更準確地評估AI的能力邊界:它的記憶優勢並非普適,而是特別適用於那些可以被顯式符號化、長鏈推導的領域。