Metaのスーパーインテリジェンス – リーダーシップ、計算、人材、データ

Metaは最近、Scale AIの49%の株式を約300億ドルの評価額で買収し、年間1000億ドルのキャッシュフローを誇る広告マシンにとって資金が問題ではないことを示しました。しかし、潤沢なリソースにもかかわらず、Metaはモデル性能でOpenAIなどの基礎研究所に遅れを取っています。真の警告は、オープンウェイトモデルでのリーダーシップを中国のDeepSeekに奪われたことにありました。これにより、CEOのマーク・ザッカーバーグは「ファウンダーモード」に入り、自らMetaのAI変革を指揮し、人材と計算能力という二つの核心的な弱点を特定しました。

ザッカーバーグは巨額の資金を投じるだけでなく、Metaの生成AI戦略を根本から見直しています。彼はゼロから「スーパーインテリジェンス」チームを立ち上げ、自らトップAI人材をヘッドハンティングし、4年で2億ドルから10億ドルに及ぶ報酬を提供しています。これは競合他社に大きなコスト圧力をかけています。

データセンター戦略では、従来の設計を捨て、速度を最優先する「テント式」建設にシフトしました。Metaはオハイオ州に「Prometheus」と呼ばれる1GW級のAIトレーニングクラスターを建設中で、自社建設、リース、複数キャンパスでのトレーニング、そして現場での天然ガス発電を組み合わせています。このクラスターはArista 7808スイッチとBroadcom Jericho/Ramon ASICを搭載した超高速バックエンドネットワークで接続されています。地元の電力網が追いつかない場合、Metaは自ら2つの200MW天然ガス発電所を建設しており、その設備にはSolar Turbines Titan 250タービン、PGM 130タービン、シーメンス・エナジーSGT400タービン、CAT 3520往復動エンジンが含まれます。

さらに、ルイジアナ州の「Hyperion」クラスターは2GWを目標とし、世界最大の個別キャンパスとなる見込みで、フェーズ1では1.5GW以上のIT電力を供給し、2027年末までに完成予定です。HyperionはOpenAIとの計算能力のギャップを埋めることを目指しています。Metaは他にも多くのデータセンターを建設中であり、その全リストはデータセンター業界モデルで確認できます。

しかし、Llama 4モデルは大きな失敗に終わりました。技術的には、チャンク化注意機構が長距離推論に問題を引き起こし、各チャンクの最初のトークンが以前のコンテキストにアクセスできないため、チェーン・オブ・ソート推論が困難になります。エキスパート選択ルーティングは訓練と推論の両方で欠点を持ち、訓練中の負荷分散は改善されるものの、推論時にはエキスパートが選択できるトークンが少なく、効果が低下します。Metaは訓練途中でエキスパート選択からトークン選択に切り替えましたが、性能低下が顕著でした。データ品質では、内部クローラーへの切り替えによりデータクリーニングと重複除去が不十分で、YouTubeデータを使用しなかったことも多モーダルモデルの訓練に悪影響を与えました。さらに、スケーリング実験の管理が不十分で、リーダーシップの欠如やアブレーション不足のアーキテクチャ選択が問題でした。

それでも、Metaは蒸留技術を使ってLlama 4のロジットをより小型で効率的なMaverickおよびScoutモデルに注入しましたが、これらのモデルはソースの限界に縛られています。

人材と技術のギャップを埋めるため、ザッカーバーグはトップ研究者の直接リクルートに加え、Scale AIを買収し、元GitHub CEOのNat Friedman、元Scale AI CEOのAlex Wang、SSIのDaniel Grossを迎え入れました。Scale AIのSEALラボは評価に特化しており、HLEベンチマークを開発しました。これらの動きは、優秀な人材が集まる好循環を生み出し、圧倒的な計算能力と20億人以上のデイリーアクティブユーザーを活用して、スーパーインテリジェンスの競争で優位に立つことを目指しています。

また、米国政府の「One Big Beautiful Bill」に含まれるハイパースケーラー向け税制優遇措置が、Metaの大規模投資をさらに後押ししています。ザッカーバーグはこの支出を始めるのに絶好のタイミングを選びました。連邦政府が資金提供するスーパーインテリジェンスは、現代のマンハッタン計画です。

全体として、Metaは計算から人材に至るまで前例のない変革を遂げており、Llama 4の失敗にもかかわらず、訓練FLOPsの成長はOpenAIに匹敵すると予想されます。ザッカーバーグのリーダーシップと戦略的転換により、Metaは今後数年でAI分野のリーダーシップを取り戻す可能性があります。