AIの次の時代：モデルだけでなくインフラが重要

企業におけるAIの進化を振り返ると、明確な道筋が見えてくる。2022年秋、世界は景気後退を予想し、IT予算は凍結された。しかし2022年11月30日のChatGPTの登場により、経営陣はAIを直接体験することになった。彼らはその能力に感銘を受け、2023年のGenAI実験プロジェクトのために予算を解放した。

2023年は実験の年だった。2024年には、GenAIプロジェクトの90%が有望でないとして切り捨てられ、残りの10%がGRC（ガバナンス、リスク、コンプライアンス）審査を経てデプロイされ始めた。2025年にはアプリケーションが本番稼働し、さまざまなレベルのガードレール、コスト追跡、ROI測定が行われた。2026年には、社内外でのGenAI使用が爆発的に増加し、年間予算が数ヶ月で使い果たされる事態となった。データ主権やシステム所有権への懸念も高まった。

実験は安価だが、本番環境では信頼性、監査可能性、規模に応じたコスト管理が求められる。地理的制約、オンプレミスコンピューティング、モデル所有権のハードな制約が必要になることもある。これがMozillaがOtariを構築した理由だ。モデルが不十分だからではなく、組織レベルでそれらを管理するインフラがまだ存在しないからだ。

過去2年間で最も重要な変化は、モデル能力の向上ではなく、採用の速度だ。AIの本番利用は、一部のリソースに恵まれたテクノロジー企業から、あらゆるセクターの数千のチームに拡大した。それに伴い、完全には予想されていなかった問題が生じた。第一に断片化：ほとんどのチームが1つのモデルではなく、数十のモデルを使用している。たとえ「OpenAIショップ」であっても、GPT-5.5、-5.4、-5.4-mini、-5.4-nano、そしてデプロイ後に手を加えていないレガシーモデルを同時に使う。それぞれが異なるAPI、価格、レイテンシ、レート制限を持ち、柔軟性が運用上の混乱に変わっている。

第二にコストの不透明性：AI推論のコストは非線形に増加する。テストで月200ドルの機能が、本番では月2万ドルになることもある。トークンに対するVCの補助がなくなり、真のコストが明らかになるにつれて、この問題は重要性を増している。ほとんどのチームは、請求書を受け取るまで自分たちが何を支払うことになるのかを知らない。プロバイダ間で事前に警告するネイティブツールは存在しない。

第三にガバナンスのギャップ：AIが金融、ヘルスケア、法務、教育などの規制産業に進出するにつれ、「どのモデルがいつ、誰に、何を言い、なぜか」ということがコンプライアンス要件になる。世界的な sovereign AI の議論がこれらの要件にさらなる複雑さを加えている。現在のインフラはこれに答えを持っていない。

マルチプロバイダ管理の実際の複雑さは次の通りだ。プロダクトチームは3〜4のプロバイダにルーティングし、各プロバイダに複数のモデルがあり、さらにアドホックなローカルソリューションも使っている。ダウンタイムに備えたカスタムフェイルオーバー、コスト追跡用のスプレッドシート、不完全なデータに基づく手動チューニング——これは持続可能なアーキテクチャではない。

問題はチームが間違ったことをしているわけではなく、ツールが追いついていないことだ。クラウドコンピューティングが成熟したとき、組織はサーバーを手動で管理するのではなく、複雑性を抽象化するプラットフォームを採用した。AIも同じ転換点にある。モデルは計算リソースであり、その上のコントロール層が欠けている。

コストの可視性は戦略的課題である。ほとんどの組織はAIインフラをコストセンターと見なしているが、本当の問いは「いくら使っているか」ではなく、「必要な成果を最低コストで得ているか、そしてそれを知っているか」だ。現在、ほとんどのチームは後者に答えられない。プロバイダ間で成果あたりのコストを比較できず、どのルートが予算を不当に消費しているかをリアルタイムで見られず、自動的に施行されるポリシーを設定できない。

コントロールが新しいモート（堀）になる。過去数年間、チームはどのモデルを使うかで競争してきたが、その優位性は薄れている。モデルはコモディティ化し、トップモデル間の差は縮小し、あらゆる性能レベルで複数の競合オプションが存在する。次の競争層は運用面だ：誰が信頼性、コスト効率、安全性をもってAIを大規模にデプロイできるか？これはインフラの問題である。

コントロールとは、コスト、能力、レイテンシ、コンプライアンスに基づいてインテリジェントにリクエストをルーティングし、AIの動作をリアルタイムで観察し、組織レベルでポリシーを設定して一貫して施行し、アプリケーション層を書き換えずにプロバイダを切り替えることを意味する。コントロールとは、AIを成熟した工学ディシプリンとして運用することだ。

Mozillaは常に、オープンで分散型、公共の利益にかなうインターネットを信じてきた。AIインフラの行く先を見たとき、彼らはおなじみのパターンを目にした：少数のプロバイダへの権力集中、検査・変更・制御できない不透明なシステムへの依存。Otariはそれに対する答えだ。オープンソースのLLMコントロールプレーンであり、組織がAIインフラを自らの条件で運用するための可視性、ガバナンス、柔軟性を提供する。

エージェントの時代は来ている。次のソフトウェアアーキテクチャのシフトはモデルリリースではなく、数十から数百のAIエージェントを並行して調整するシステムだ。それぞれがモデルコールを行い、コストを発生させ、ガバナンスが必要なデータに触れる。その複雑さは現在のインフラが扱うものより桁違いに大きい。このギャップが新しいカテゴリーを定義する。真剣なAIデプロイメントには不可欠な基盤層だ。

Otariはそのコントロールプレーンとして、オープンソースでコミュニティが形作るものだ。医療、教育、防衛、金融、市民テクノロジーなど、最も重要な機関はブラックボックスベンダーに依存できない。Otariはその一歩となる。