過剰学習：人間らしいAIへの道

匿名ブロガーのGwernは最近、13,000語に及ぶ投稿「人間らしいニューラルネットをカタパルトで」を公開し、LLMが真に柔軟な人間らしい知能を持たない理由と、その訓練方法について理論を提示した。GwernはAI業界で著名であり、2020年にGPT-3がリリースされた直後に「スケーリング仮説」を書き、大規模言語モデルの発展を予測している。インターネット上には同様の理論は数多くあるが、Gwernの意見は注目に値する。

Gwernの理論の基礎は「grokking」現象である。2022年、OpenAIは単純なデータセットでモデルを長時間訓練すると、突然能力が飛躍することを示す論文を発表した。最初の段階ではモデルがデータを暗記するように圧縮するが、訓練を続けると正則化技術によりより単純な圧縮方法を見つけ、最終的に基礎となるルールを発見して深い理解を得る。OpenAIはこのプロセスを、ロバート・ハインラインの造語「grok」にちなんで「grokking」と名付けた。

Gwernの主張は次の通り：現代のLLMは人間よりも汎化能力が劣る。なぜなら中核領域をgrokkingしていないからである。Grokkingを達成するには、比較的小さなデータセットで過剰パラメータ化されたモデルを過剰訓練する必要があり、これは現在の最先端ラボのやり方とは正反対である。しかし、この方法は基本的に人間の脳の学習方法と同じである。誰かが数百億ドルを投じて試すべきであり、成功すれば真に人間らしいLLMが直ちにもたらされる可能性がある。著者は、人間の脳との類推がなくてもこの議論は説得力があると述べている。

LLMがgrokkingを欠いているかどうかについて、著者はLLMが特定分野では非常に賢いが、人間なら決して犯さないような誤りを日常的に犯すことを指摘する。これは明らかに汎化の失敗を示している。一部の研究ではLLMもgrokkingのようなパターンを示すと主張するが、著者はそれはむしろ汎化と記憶の混合であると考える。Gwernの意味するところは、LLMには少なくともあと1つ大きな汎化の飛躍が残されているということだ。人間がより良い汎化能力を持つことが存在証明となっている。

現在のAIラボは比較的小さなモデル（最大の最先端モデルでもおそらく数兆パラメータで、アクティブパラメータはその10分の1）を、膨大なデータで訓練している。Gwernはその正反対を提案する：100兆パラメータの巨大モデルを、小さなデータセットで訓練するのである。これによりモデルは単純な記憶で改善できなくなり、より深い汎化を余儀なくされる。一見ばかげているが、データが制約されるとgrokkingが起こりやすくなるというのがGwernの主張だ。

大手ラボはまだこれを試していない可能性が高い。Gwern自身が内部関係者であれば知っているはずであり、彼がこの投稿を書いたことは証拠となる。また、100兆パラメータモデルの訓練には巨大な工学的課題があり、現存する最大のモデル（Claude Mythosなど）もその規模には遠く及ばない。しかし、大手ラボには資源と人材がある。興味深いことに、政治的障害も技術的障害と同様に難しい。訓練は成功するまで失敗しているように見え、訓練損失はすぐにゼロになり、その後何週間も何ヶ月もテスト損失が改善せず、数十億ドルを消費する。トッププレーヤーにそのリスクを取る勇気があるだろうか？

Gwernの投稿は人間の脳の発達が同じように機能するという詳細な議論も含んでいるが、著者はその部分を省略している。2024年には「純粋スケーリング」が機能しないことが明らかになり、OpenAIのGPT-4のさらに大きなバージョンは十分ではなく、GPT-4.5としてリリースされた。その後最大の進歩は推論能力と自動強化学習であり、信頼できるエージェントの時代をもたらしたが、どちらも人工超知能への道筋としては不確かである。著者はGwernに同意するかどうか確信がないが、非常に大きなLLMにgrokkingを強制することは、少なくとも機械の神をもたらす可能性のあるアイデアであり、誰かが試すことを望んでいる。