状況認識：今後10年（2024）

レオポルド・アシェンブレナー（Leopold Aschenbrenner）は2024年6月に『状況認識：今後10年』という長文を発表し、AIの発展が主流の予想よりもはるかに速いと指摘している。彼は、サンフランシスコが未来を最初に見ることができると述べる。過去1年で、計算クラスターの話題は100億ドルから1000億ドル、さらに1兆ドルへと移り変わり、6か月ごとにゼロが一つ増えている。企業は電力契約や変圧器を確保しようと激しく争い、アメリカの大企業は数兆ドルを投じて産業動員を開始しようとしている。2020年代の終わりまでに、米国の発電量は数十パーセント増加し、数億個のGPUが稼働するだろう。

AGI（汎用人工知能）競争はすでに始まっている。2025年から2026年までに、これらの機械は多くの大学卒業生を追い越すだろう。2020年代の終わりまでには、人間よりも賢くなり、真の意味での超知能が実現する。その過程で、半世紀ぶりに見る国家安全保障の力が動員され、やがて「プロジェクト」が始まるだろう。幸運なら中国共産党との全面競争になり、不運なら全面戦争になるかもしれない。

しかし、多くの人は何が起ころうとしているかをほとんど認識していない。Nvidiaのアナリストは2024年がピークに近いと考え、主流の評論家は「次の単語を予測するだけ」という見方を頑なに守っている。状況認識を持っているのは、サンフランシスコとAI研究所にいる数百人だけだ。彼らは数年前には狂人扱いされたが、トレンドラインを信じたことで過去数年のAIの進歩を正確に予測した。彼らは歴史上の奇妙な脚注になるか、シラードやオッペンハイマー、テラーのように歴史に名を残すか。もし彼らの見方が正しければ、私たちは乱気流の中にいる。

議論の核心は以下の通りだ。第一に、GPT-4からAGIへの道のり。GPT-2からGPT-4は4年間で、幼稚園児から優秀な高校生相当の能力に達した。計算量（年間約0.5桁）、アルゴリズム効率（年間約0.5桁）、「解放」効果を考慮すると、2027年までに再び同様の質的飛躍が期待できる。第二に、AGIから超知能への知的爆発。人間レベルに達した後、何億ものAGIがAI研究を自動化し、10年分のアルゴリズム進歩を1年以内に圧縮できる。これにより、急速に超人的なAIシステムが生まれる。

さらに三大課題がある。第三の課題として、1兆ドル規模のクラスター競争：AI収益が急速に成長する中で、数兆ドルがGPU、データセンター、電力インフラに投資される。これは前例のない技術資本の加速だ。第四に、研究所の封鎖：現在の主要なAI研究所はセキュリティを軽視しており、AGIの重要秘密を中国共産党に差し出しているに等しい。AGIの秘密と重みを国家レベルの脅威から守るのは困難で、現状では軌道に乗っていない。第五に、スーパーアライメント：人間よりはるかに賢いAIシステムを確実に制御することは未解決の問題だ。解決可能だが、急速な知的爆発の中で制御を失う可能性もあり、失敗は破滅的になり得る。さらに、自由世界が勝利しなければならない：超知能は経済的・軍事的に決定的な優位をもたらす。中国はまだゲームから脱落しておらず、自由世界の生存がかかっている。

アシェンブレナーは、競争が激化するにつれ、国家安全保障機構が関与すると予測する。米国政府は眠りから覚め、2027/28年までに何らかの政府AGIプロジェクトが発足するだろう。どのスタートアップも超知能を扱うことはできない。最終的な終盤戦は、機密施設（SCIF）の中で行われる。彼は最後にこう問いかける。「もし我々が正しかったらどうなるのか？」