AI News HubLIVE
サイト内リライト5 分で読了

オープンウェイトAIは減速主義か?

OpenAIの戦略的未来責任者ディーン・ボール氏は、オープンウェイトモデルが本質的に減速主義的であり、設備投資を阻害すると主張する。本稿では、中国のAIインフラ投資能力、訓練パラダイムの変化、バリューチェーンにおける価値の所在など、この主張の経済的論理を検証する。結論として、オープンウェイトモデルはコストを下げ参加を広げることで、既存のビジネスモデルを破壊しても加速主義的に働く可能性があると示唆する。

ソースHacker News AI著者: brandoncarl

OpenAIの戦略的未来責任者ディーン・ボール氏が最近Kimiの新K3モデルについてコメントしたとき、彼は単に競合他社を批判しただけではなかった。彼は無意識のうちにシリコンバレーで最も声高な宗派論争に火をつけた。この投稿は、オープンウェイトモデル(内部の数学的設計図を公開するもの)を「本質的に減速主義的」と位置づけているように見えた。

「オープンウェイトモデルは本質的に減速主義的であり、いわゆる『加速主義者』がオープンウェイトモデルに熱心であることに私は驚き続けている。その理由は、彼らがオープンウェイトモデルが実質的に統治不可能であることを知っており、AI全体にオープンウェイトモデルが作り出す統治不可能性の全体的な外套を単純に好んでいるからだと推測する。悪い戦略ではない。ジェームズ・スコットが『統治されない技術』で描いた山岳民族を思い出させる。それでも結局、オープンウェイトモデルはさらなるAI設備投資を妨げる。」

「減速主義」という用語は、加速主義(急速な技術普及がイノベーションと社会的利益を加速させるという見解)との対立においてのみ存在する。対照的に、減速主義とは、資本形成を遅らせ、それによって利益を先送りするものを指す。なぜオープンウェイトが該当するのか?

ここには多くの解釈すべき点がある。オープンウェイトが設備投資を妨げ、その結果フロンティア開発のペースを遅らせるという主張があるなら、その議論は美学ではなく経済学に基づく必要がある。そのためには、順に、トークンがコモディティ化するかどうか、中国のAIインフラ構築能力と意欲、バリューチェーンにおける価値の所在、今日の訓練パラダイムが持続可能かどうか、そして最終的に誰が財務上の利益を獲得するかを検討する必要がある。

資本集約度と中国問題

現在、大規模言語モデルの訓練にはコストがかかる。専用チップ、広大なデータセンター、希少なエンジニア人材、膨大なデータが必要だ。そのようなプロジェクトに資金を提供する投資家は、持続可能なキャッシュフローを期待する。オープンウェイトがモデルの複製や微調整を容易にすることで将来の収益を圧縮すれば、正味現在価値は低下する。理論上、資本は撤退する。

この論理は、中国が登場すると地政学的な色彩を帯びる。国民的レンズを通して同国を戯画化するのは簡単だが、同国の経済変革は疑いの余地がない。連続する「7カ年計画」を通じて、中国は驚異的な規模の製造基盤を構築し、何億人もの人々を中流階級に押し上げた。資本をどこに向けるか——鉄鋼、太陽光発電、電気自動車——によって、しばしば世界市場を再形成してきた。

国内工業化後、問題は、その強力なエンジンを外部に向けると何が起こるかである。太陽光パネルやバッテリーは初期の答えだった。人工知能インフラは別の答えかもしれない。「工場」がかつて鉄鋼を生産していたとすれば、明日はトークンを生産するだろう。低資本コストと過剰建設への寛容さにより、中国は生産能力に補助金を出し、マージンを圧縮し、海外の既存企業を動揺させることができる。鉄鋼と太陽光発電におけるダンピング懸念は、その戦術を例証している。

この観点からは、オープンウェイトは脅威を増幅させるように見える。知能が安価に複製され広く展開されれば、アメリカ企業がフロンティアモデルを収益化する能力は弱まる。補助金を受けたオープンウェイトの知能があふれる世界は、確かに高コスト管轄区域での民間資本を阻害するかもしれない。

ここで止めるなら、減速主義の主張はもっともらしく思える。しかし、それは今日の訓練パラダイムと今日の収益期待のスナップショットに固定されている。

訓練パラダイムと価値の所在

現在のモデルはほとんどが新規に訓練されている。膨大なコーパスを摂取し、重みを凍結し、その後微調整と強化学習を行う。各世代は事実上、ゼロから教育される。連続学習とオンライン学習は、異なる未来を指し示す。つまり、機械が知識を蓄積し、誤りを破棄し、段階的に適応する、静的なスナップショットよりも人間に近いものだ。そのようなアプローチは、先行設備投資を大幅に削減できる可能性がある。

AIの長期的な人物であるフランソワ・ショレは次のように主張している。

2040年のAIは、今日使用しているスタック上に構築されていないだろう。それは最適にずっと近いものになる。現在のスタックには、データ効率で3~4桁、計算効率で4~5桁の非効率性がある。ほぼ最適なAIは、記号学習が提供するものだ。人々は流動的知能と知識を区別するのに苦労する。なぜなら、十分な準備があれば、記憶されたテンプレートがその場での適応の確実な代替品になるからだ。

もし正しければ、今日の設備投資重視の体制は一時的なものだ。さらに基本的なのは、価値がどこに蓄積されるかという問題である。現在、多くの注目はトークンに集まっている。つまり、機械生成知能の限界単位だ。しかしトークンは電気に似ているかもしれない。不可欠だが、限界費用に近い価格で提供される。

OpenAIのCEOサム・アルトマンは次のように述べている。

「私たちは、知能が電気や水のようなユーティリティになり、人々がメーターで私たちから購入し、好きなことに使う未来を想定している。」ユーティリティは収益を上げられるが、競争と規模はマージンを圧縮する傾向がある。

コモディティ化は些細さを意味するわけではない。木材には等級がある。トークンも同様だろう。知能の階層はおそらく区分され、それに応じて価格設定される。しかし競争市場は、差別化された商品でさえコストに向かわせる傾向がある。もしそうなら、価値はスタックの上下に移動するかもしれない。つまり、専門アプリケーション、ドメイン固有のハーネス、独自データ、ワークフロー統合、補完的サービスへと。

電気は先例を提供する。それは計量されるコモディティだが、上流ではほとんど想像もできない評価額の価値創造を可能にする。Linuxも別の例だ。オペレーティングシステムはユビキタスで基本的に無料になったが、その上に構築する企業に莫大な価値が蓄積された。オープンウェイトモデルも同様の機能を果たし、貢献者のプールを広げ、上位層のイノベーションを加速させる可能性がある。現在、フロンティア開発への有意義な参加は、ほとんどが少数の研究所に限られている。オープンウェイトはその障壁を下げる。

核心的に、大規模言語モデルは条件付き確率機械である。入力トークンを出力にマッピングする数学的変換だ。その力は変換の質にあり、脆弱性は再現性にある。一貫性は標準化を招き、標準化は競争を招く。

未来への展望

これはオープンウェイトを減速主義にするだろうか?それは、今日のフロンティアビジネスモデルが進歩の唯一のエンジンであると仮定した場合にのみ当てはまる。それは狭い見方だ。知能コストの低下は、実行可能なアプリケーションのフロンティアを拡大する。より広範なアクセスは、端で実験する頭脳の数を増やす。両方の力学は、総体として加速主義的である。

これらはいずれも、ガバナンスや悪用に関する正当な懸念を否定するものではない。また、資本がスムーズに配分されることを保証するものでもない。補助金による過剰能力——鉄鋼、太陽光、トークンのいずれにおいても——は破壊的であり得る。しかし破壊は減速と同義ではない。それは、全体のイノベーションを減らすことなく、レントを再配分する可能性がある。

何も変わらなければ、知能はおそらくユーティリティステータスに向かい、競争力のある価格で埋め込まれるだろう。フロンティア研究所はベースモデルで薄いマージンを稼ぐかもしれないが、統合、ツール、専門サービスではより豊かなマージンを得るだろう。中国は能力を構築するだろう。他国も同様だ。競争は、誰がウェイトを所有するかではなく、誰がその周りのエコシステムを掌握するかに関するものになる。

この観点では、オープンウェイトは本質的に減速主義ではない。それらは、価値の所在が移行しており、より広範な参加が既存のレントを侵食するよりも早くパイを拡大するという賭けである。リスクは、進歩が遅くなることではなく、希少性に基づくビジネスモデルが豊かさに向かう世界で苦闘することにある。

言い換えれば、加速は、工場の門を守ることよりも、門が開かれた後に何を構築するかを決定することに依存するかもしれない。