MozillaのCTO、Raffi Krikorian氏はAI CodeconでTim O’Reilly氏と対談し、オープンソースAIについて語った。Mozillaは1990年代後半にオープンソース革命の形成を支えた非営利組織だ。Firefoxは後にGoogle Chromeに市場首位を譲ったが、ApacheやW3CとともにオープンなWeb標準を確立し、当時の支配的プラットフォームだったMicrosoftによるWebの囲い込みを防ぐ役割を果たした。現在Mozillaは、オープンで標準ベースのAIエコシステムを築く主要な声の一つになっている。
Krikorian氏はニュースレター「Owners Not Renters」で中心的な主張を述べている。同氏は7つのAGIではなく70億のAGIを望むとし、一人ひとりが秘密を預けられ、自分の利益を守ってくれるAIを持つべきだと考える。それは開発者のビジネスモデルのために最適化されたAIではない。初期Webでブラウザを「ユーザーエージェント」と呼んだのは、それがユーザーの味方だったからだ。ページの表示方法をユーザーが決め、プライバシーやCookieを管理し、ユーザーを利用しようとする相手から守る。AI時代にも同じものが必要だと同氏は言う。
同氏は、AIアシスタントが企業の商業的利益をユーザーの福利より優先するよう訓練され得るかを調べた論文を引用した。模擬的な航空券予約依頼では、23モデル中18モデルが、半数のケース以上で安い選択肢ではなく高価なスポンサー枠を推薦した。こうした仮想的な選択は、これまでも業界を問わず繰り返されてきた。
個人に忠実なAIを実現するには、オープンソースモデルだけでは足りない。Krikorian氏はモデルの周囲に必要なものとして、個人データを置くメモリ、代理購入や診療予約を可能にするツール呼び出し、それらが動くランタイム環境、そして自分のエージェントが他者の代理をするエージェントとどう話すかのルールを挙げる。これらをまとめて「ハーネス」と呼び、評価、ガードレール、実行ループ、ツール呼び出し、メモリがそこで動くという。これはオープンソース開発者が手がけられる領域だと同氏は見る。オープンソースの本質は、許可を求めずに自分の課題を解決できることにある。
Mozillaは出発点を提供し、コミュニティがオープンなメモリプロトコル、ストレージプロトコル、適切なガードレール付きの認証済みツール呼び出しのあるべき姿を定義するのを助けたい考えだ。Krikorian氏によれば、オープン標準が定義されれば多くの参加者が相互運用できるようになる。それはインターネットの再演のようなもので、オープンなプロトコルの上に巨額の市場価値を築ける。
ただし使いやすさは依然として課題だ。Mozillaの「2026 State of Open Source AI」報告書によると、オープンモデルはフロンティアとの差が約3%まで縮まったが、クローズドモデルと同じペースで本番導入されていない。Krikorian氏は、オープンソースは公開は容易だが配備が難しいと説明する。開発者はホスティング、プロビジョニング、ガードレール、メモリを自分で解決しなければならない。OpenAIやAnthropicのAPIならクレジットカードを渡せば済むが、組織内でオープンソースAIを動かすための「ダブルクリックでインストール」に相当するものが欠けている。一方、導入に取り組んだ企業は、オープンモデルが多くの用途で十分なため大きなコスト削減を得ている。「カレンダー管理にフェラーリは要らない」と同氏は表現した。
Krikorian氏自身はGLM上で動くHermesを日常のエージェントとして使っている。AppleやMicrosoftなどが数年以内にこの種のエージェントを消費者向け製品にし、母親も使うようになると同氏は予想する。ただ現状は、コードを書けないと使いこなせないイノベーション曲線のまずい位置にあるという。Tim氏はこれに同意しなかった。業界は開発者や発明者、未来を創ろうとする企業にとって興奮させる時期を経てから、退屈になり少数の大企業が支配するようになる。今はまだ何も確定していない興奮期であり、未来の形を正式に定められる時期だとTim氏は主張した。
Tim氏は「洗濯ロープのパラドックス」を用いて価値の測り方を説明した。デスクトップLinuxやOpenOfficeは、当時のオープンソース開発者が期待したほど直接的に市場を変えなかった。しかしオープンソースは新しいWebアプリケーションの基盤層となり、Google、Amazon、Metaなどの内部に深く組み込まれた。Mozillaの報告書では、現実のAI利用の最大3分の1がオープンモデル上にある一方、モデル層の収益のうちオープンソース生態系に流れるのは4%にすぎない。Tim氏はこれを欠陥ではなく特徴だとし、重要な技術の多くは「捕捉する価値よりも多くの価値を生む」と指摘した。Steve Baer氏が1975年にCoEvolution Quarterlyで提唱した洗濯ロープのパラドックスでは、乾燥機を使えばエネルギー使用が計測されるが、太陽で干せば節約されたエネルギーは会計から消える。Tim氏は、オープンソースソフトウェアが専有ソフトウェアと同じ形で「勝った」のではなく、全員がその上に築く基盤になったことを誰も認識しないのが長く気になっていたという。
Krikorian氏は、AIを製品として扱うのはカテゴリーエラーだと述べる。AI企業が倒産すれば製品は消え、ビジネスモデルを変えれば依存している機能が撤回され得る。主権AIを必要とするのは個人だけではない。各国はデータをどこで処理し、どう越境させるかについて法律を整備しており、その要件の一部は大手ラボの収益化計画と相容れない可能性がある。国々が求めているのはインフラだ。道路は建設業者より長く残る。Krikorian氏は、長く続く基礎インフラを提供する唯一の方法は、オープンでダウンロード可能なモデルだと考えている。
OpenRouterの統計によれば、現在中国製モデルが供給するルーティング済みトークンは米国製モデルより多い。Tim氏が懸念すべきかと問うと、Krikorian氏は問題は中国ではなく市場集中にあると答えた。主要なオープンモデルは中国製で、主要なクローズドモデルはすべて米国製だ。どちらも大統領令でアクセスを遮断され得る。今年6月にはAnthropicが輸出管理に従うため、一時的にFableモデルへのアクセスを停止した。主要な専有モデルと主要なオープンウェイトモデルがそれぞれ一国に集中していることが問題だ。
多様性はレジリエンスの基盤だ。Krikorian氏は例えば、病院はバックアップとしてローカルモデルをダウンロードすべきだと主張する。重要なコンピュータを無停電電源なしで動かす人はいないのに、AIでトリアージをする病院が単一の知能提供者に依存してよいのだろうか。政府がオープンソースを制限する可能性も、フロンティアモデルを制限する可能性もあり、突然の撤回はいくらでも起こり得る。バックアップ計画は必要だ。
安全も基盤の一部だ。Q&Aで聴衆がOpenAIとAnthropicの最近のサンドボックス脱出について質問した。Krikorian氏は、皆が自社モデルの強力さと制御の難しさを競うように語るのが一番面白かったと冗談を言ったが、ガードレールが本当に難しい問題であることには同意した。LLM呼び出しを通じて個人識別情報が漏れないようにするには、社会保障番号だけを探すのでは足りない。いずれモデルがモデルを防御するようになるだろうが、ガードレールの基礎フレームワークはまだ十分ではない。対談後にNVIDIAが発表した安全プラットフォームは、より良いガードレールをモデルの外側に実装する必要があることを示唆している。
Tim氏はAI Codeconの冒頭で、オープンとクローズドのシステムは常に共存してきたのであり、どちらかが勝つという考えは誤りだと述べた。Apple、Google、OpenAI、Anthropicのようなクローズドシステムは一般の人々に最適化し、数十億人に価値を届けられる。オープンシステムはイノベーションと主権、そして技術を新しい国や市場へ広げるのに優れている。Raffi氏は最後に、適切に調整されたハーネスが一部のコーディングタスクでモデル性能を最大20%改善できると指摘した。機械学習エンジニアでなくても、その層で貢献できるのだ。