AIが数学者を上回るのは思考力ではなく記憶力だ

1952年、プリンストン高等研究所がコンピュータの落成式を行った。当時の学者たちは、AIが難しい数学の問題を解く時代を想像できなかっただろう。よくある説明は、AIがより賢くなったというものだ。数百万の数学的例を吸収したのかもしれない。強化学習がより良い推論戦略を教えたのかもしれない。あるいは、真の数学的直感に近いものを発達させつつあるのかもしれない。しかし著者は、こうした説明が見落としているより単純な可能性を指摘する。AIは人間の脳よりもはるかに大きな作業記憶にアクセスできる、という点だ。より正確には、人間の作業記憶が果たす多くの機能を担う、巨大な外部シンボル作業空間を持っている。その違いは数学において特に重要だろう。人間の数学者は、馴染みのない要素を同時にいくつも心に留めることはできない。一方、AIは問題文全体、何百もの途中式、放棄されたアプローチ、定義、制約、以前の結論をコンテキストウィンドウ内に保持できる。私たちはその結果を優れた推論の証拠と解釈しがちだが、その一部は人間の推論に対する最も重要な生物学的限界、つまり極めて限られた作業記憶容量の除去を反映しているのかもしれない。

作業記憶とは、短い期間情報を保持し操作する精神システムである。方程式を解くときは、各変数が何を表すか、どの演算を既に行ったか、現在の目標が何かを覚えていなければならない。証明中は、仮定、途中の補題、例外、複数の可能な場合を追跡する必要がある。人間の作業記憶は驚くほど限られている。頭の中で2桁の数字を掛け算してみてほしい。基本的な演算は単純だが、部分的な結果を保持しながら追加の計算を行うことが難しさの大部分を占める。数字を書き留めると問題は変わる。紙はあなたを賢くするのではなく、効果的な作業記憶を拡張するのだ。数学者は記号、下書き用紙、図、以前に書いた補題を、解答を伝えるためだけでなく、推論を認知的に可能にするために使う。専門家はチャンキング（かたまり化）によって情報を圧縮する。初心者には長い記号の列に見えても、専門家は馴染みのある構造を認識し、それを単一の概念的対象として扱う。しかしチャンキングは限界をなくすのではなく、情報を圧縮しているにすぎない。AIモデルは非常に異なる制約に直面している。

作業記憶が数学にとって重要であることは理論的な話だけではない。人間の個人差にも現れている。作業記憶は一般知能と強く関連しているため、それがIQを超えて独立に数学の成績を予測するのか、それとも単にIQの不完全な測定にすぎないのかという疑問が生じる。いくつかの研究は、従来の知能指標を超える貢献があることを示唆している。例えばAlloway and Passolunghi (2011)は、児童の作業記憶、言語能力、数学的スキルを調べ、作業記憶の測定が数学的成績に独自の貢献をすることを見いだした。Alloway and Alloway (2010)の6年間の追跡研究では、5歳時の作業記憶が、IQを統計的に統制した後でも、その後の読み書きや計算能力を予測した。実際、作業記憶は研究で用いたIQ指標よりも後の学業成績の強い予測因子だった。Blankenshipら(2015)も、IQと年齢を統制した後、作業記憶が数学的流暢さと計算の独自の分散を説明することを報告した。Friso-van den Bosら(2013)の大規模メタ分析も、小学校段階で作業記憶と数学の間に一貫した関係を見いだしている（ただし、その強さは課題の種類によって異なる）。これらの結果を誇張すべきではない。作業記憶と知能はかなり重なり合い、統計的統制では両者を完全に独立した心理的メカニズムとして分離できない。また、訓練によって作業記憶を強化すれば知能や数学の成績が大きく向上するという証拠があるわけでもない。しかし、より狭い結論は重要だ。同程度の知能を持つ子どもたちの間でも、情報を保持し更新し操作する能力の差が数学的成績の差を予測するのだ。

このことはAIを理解する上で重要な手がかりとなる。人間の数学的成績が作業記憶のボトルネックによって部分的に制限されているなら、機械に巨大なシンボル作業空間を与えることで競争の性質が変わる。機械は、人間の成績を抑えている認知的限界にはるかに制約されないため、より数学的に知的に見えるかもしれない。現代の言語モデルは、膨大なトークン列を一度に処理できる。その列には、元の問題、定義、例、途中計算、そしてモデル自身の以前の推論が含まれる。コンテキストウィンドウは人間の作業記憶と同一ではない。それは、不完全な検索・使用システムを備えた巨大な外部ノートと考えるのが適切だろう。人間は能動的な内部記憶を持っている。黙って数字を選び、心に留め、変換し、何も言わずに新しい値と置き換えることができる。標準的な言語モデルは、こうした私的で継続的に更新される心的状態を維持するのがはるかに苦手だ。その最も安定した記憶は通常、すでに生成されたトークンの列である。モデルが「x=6」と書き、後で「x+3=9」と書けば、それらの文はコンテキスト内に残り、次のステップを生成するときに再び注意を向けることができる。したがって、その推論はしばしば外部化される。テキストは単に完了した思考プロセスの報告ではなく、推論が起こるメカニズムの一部なのだ。人間も下書き用紙を使うとき似たことをする。大きな違いは規模である。補助なしの人間は、5つの馴染みのない条件を同時にアクティブに保つのに苦労するかもしれない。AIは数十から数百の条件を明示的な形で保持できる。しかし、長いコンテキストのすべての項目が完璧に検索されるわけではない。モデルは関連情報を見落としたり、注意散漫になったり、詳細を見失ったりすることがある。宣伝されるコンテキスト長は、完全に使える記憶と同じではない。それでも、潜在的な容量の差は計り知れない。

このコンテキストウィンドウの利点は、あらゆる種類の推論で同じように役立つわけではない。数学が特に重要であるのは、数学的推論が顕著に明示的な記号に変換できるからだ。数学の問題のほとんどすべての関連要素を書き留めることができる：仮定、定義、既知の方程式、現在の目的、既に証明された結果、排除された場合、各ステップが有効であるための条件。一度書かれた情報は安定したままである。証明の冒頭でxが整数と定義されれば、証明が明示的に定義を変えない限り、xは整数のままである。厳密な不等式は、気分や文脈や解釈の変化によって非厳密な不等式に徐々に変わることはない。数学的記号は曖昧さを減らすように設計されている。このため数学は、大きなテキスト作業空間を通じて働く知性にほぼ完璧に適合する。次のことを覚えておく必要がある問題を考えてみよう：nは奇数、pは素数、x≠0、そして論証の一つの分岐はすでに矛盾を導いている。人間は基本戦略を理解していても、x≠0を確立する前にxで割ってしまうかもしれない。その誤りは知能の欠如によるものではなく、帳簿管理の失敗かもしれない。AIは各段階でアクティブな制約を言い換えることができる：「nは奇数、pは素数、x≠0という仮定の下で作業しています」。コンテキストは推論状態の元帳となる。多くの難しい数学の問題には、始めの方に深い洞察があるが、その後には表現を展開し、場合を調べ、変換を通じて条件を運び、最終的な結論がすべての初期の仮定と両立することを確認するという、あまり華やかでない作業が大量にある。機械は人間より深い洞察を持つ必要はない。長い一連の操作を完了する間、問題の完全な状態を保存することに優れているかもしれない。

数学は高度に合成的である。証明はしばしばA→B→C→Dと表せる。各ステップが有効で、連鎖が正確に保たれれば、結論は導かれる。大きな作業空間により、モデルは糸を見失う前に、はるかに長い連鎖を構築できる。問題の難しさは個々のステップの難しさだけに依存するのではなく、何ステップを調整しなければならないかにも依存する。人は100ステップの論証のすべての局所的な推論を完全に理解できても、全体を補助なしで生成できないかもしれない。その問題は、人が全体的構造を維持する能力を超えている。AIはほぼすべてを書き留めることでそれを補える可能性がある。これは、追加の「思考時間」がモデルの性能を向上させることが多い理由を説明できるかもしれない。より多くの計算により、システムはより多くの中間状態を生成し、代替の分岐を調べ、部分的な結論を保持できる。より深い思考に見えるものは、時にははるかに大きなノートの中で行われるより広い探索かもしれない。

では、数学の問題を社会的な質問と比較してみよう：「なぜMariaは突然私のメッセージに返信しなくなったのか？」より大きなコンテキストウィンドウがあれば、AIは何年ものやり取りを調べられるかもしれない。トーン、タイミング、語彙の変化を特定できるかもしれない。しかし、決定的な情報がまだ欠けているかもしれない。Mariaは怒っているのかもしれない。忙しいのかもしれない。病気なのかもしれない。携帯電話を失くしたのかもしれない。無関係な問題を避けているのかもしれない。どんなに記憶があっても、観察されたことのない事実を検索することはできない。課題は既知の前提を保存してその結果を導くことではなく、隠れた原因について不確実性の下で推論することである。非形式的な推論は、意味が不安定な概念に大きく依存する。「公平」「成功」「責任」「有害」「賢い」といった言葉は数学的変数の正確さを持たず、その意味は文化、目標、文脈に依存する。モデルは議論のすべての文を覚えていても、参加者の意味を誤解するかもしれない。政治分析、歴史解釈、ビジネス戦略、心理的判断にも同じことが当てはまる。これらの領域では、中心的な問題はしばしば作業記憶容量ではない。このことを理解することで、AIの能力の境界をより正確に評価できる。すなわち、その記憶の優位性は普遍的ではなく、明示的に記号化でき、長い推論連鎖を持つ領域に特に当てはまるのだ。