Interconnectsで私が最も長く取り組んでいるエージェントのテストベッドは、Interconnects Dashboardの構築だ。これは、オープンモデルの採用状況と性能に関するウェブ上の最良のデータを集約するものだ。このダッシュボードは無料で公開されており、かなり有用になってきている。それでも、オープンモデルの採用に関するあらゆる測定は非常に不正確だ。ノイズの多いプラットフォーム指標、スタートアップによるマーケティング目的の指標、不完全な公開評価がある。物事がどこへ向かっているのかを見極めるには、知見のある目が必要だ。このリサーチノートは、現状についての私の現時点での最良の概算である。
Interconnectsのほとんどの取り組みと同様、私たちの目標は得る価値よりもはるかに大きな価値を生み出すことにある。そのためダッシュボード上のデータは、当面の間無料のままとする。これらのノートは私の多くの記事よりも生のもので、まだ完全な証拠はないが私が考えていることを共有する場だ。主に有料で提供されることで、より自由に語ることができる。AI政策や政策志向の研究に携わっている方はぜひ連絡してほしい。割引または無料でのアクセスを提供できる可能性が高い。
今日取り上げたい主な問いは、オープンモデル推論の市場はどれほど大きいのか、成長しているのか、そしてOpenAIやAnthropicと比べて誤差の範囲に過ぎないのか、という点だ。
私はここで最良の測定を構築してきた。主にオープンモデル推論スタートアップのBaseten、Fireworks、Together AIを指標とし、さらにOpenRouterのトークン量に占めるオープンモデルのシェアも用いている。これは同社がAPIで報告してくれることに感謝している。ハイパースケーラーもここで大きな存在感を持つ可能性が高い。例えばAmazon BedrockやAzureのモデルガーデンだが、モデルカテゴリ別の利用状況の内訳はまだ見ていない。スタートアップの命運は、オープンモデル推論というカテゴリの成功とより直接的に相関している。
最新データについては、オープンモデル経済に関する私の講演のスライドから始められる。これはオープンモデルスタートアップが公開開示したトークン量の推移を対数スケールで示したものだ。ほぼ指数関数的な成長が見られ、その後、GLM 5.2によるオープンエージェントでの段階的変化の後に上振れが続いている。例えばFireworksは今週の初のカンファレンスで、顧客のカスタマイズモデルに対して1日あたり40T以上のトークンを提供していると発表した。これは推論の一部の垂直領域に過ぎず、同社によればこの領域はこの夏から2倍以上に成長したため、次の更新時には今秋の同社の総トークン量は100Tを大きく超えると予想している。
これらの数字に対して私がまず感じたのは、少なくともトークン量の面で、比較可能な閉源モデルやハイパースケーラー企業と比べて位置づけることだった。幸いなことに、Googleは決算報告でプラットフォーム全体およびAPI利用のトークン量を公開している。これら2つの数字をオープンモデル推論プラットフォームの上に重ね合わせることで、相対的な規模を把握できる。この比較から明らかになるのは、オープンモデルのエコシステムがすでにトークン経済の中で無視できないシェアを占めているのか、それともまだ周辺的な現象にとどまっているのかという点であり、これを確定するにはさらなるデータが必要だ。