BasetenがModel Labs向けプラットフォームを発表

Basetenは本日、クローズドウェイトモデルラボ向けの新プラットフォーム「Baseten for Model Labs」を正式に発表しました。このプラットフォームは、モデルラボが迅速かつ容易にモデルを配布し収益化できるよう、推論インフラストラクチャ、モデル配布チャネル、知的財産保護、およびマーケット投入支援を統合的に提供します。ラボはモデル開発に集中でき、複雑な運用や技術基盤を自前で構築する必要がありません。

5月にBasetenはFrontier Gatewayを導入し、クローズドウェイトモデルラボがホワイトラベルAPIを通じて本番環境でモデルを提供できるようにしました。これまでにPoolside、Subconscious、Trajectory、Writerなどのラボがこのゲートウェイを活用して収益化に成功しています。しかし、ラボが開発者の間で注目を集めるにつれて、新たなニーズが浮上しました。開発者は、各モデルごとに新しいAPIにサインアップしたりサブプロセッサを導入したりすることなく、自分の好みの推論プラットフォームから簡単に専門的で強力なモデルにアクセスしたいと考えていました。同時に、ラボパートナーは、Frontier Gatewayが提供するホワイトラベルAPIを超えて、Basetenモデルライブラリにモデルを掲載することを魅力的な新たな配布チャネルと見なしました。

Baseten for Model Labsは、双方のニーズに応えるために構築されました。主要な機能は以下の通りです。すぐに使える本番グレードの推論インフラにより、ラボは課金、送金、APIキー、コンプライアンス認証、認可、計算リソース調達、リージョンサポートなどを数ヶ月かけて構築する必要がありません。Basetenの成長する開発者コミュニティとエンタープライズ顧客ベースを通じて、ラボの認知度が向上します。厳格な配布契約とセキュアなインフラによりクローズドウェイトモデルの知的財産が保護され、エンドカスタマーはモデルを消費することはできても、変更や重みの抽出はできません。さらに、モデルライブラリに公開されると、ラボはBasetenの営業チームとの共同マーケティングやコセリングを通じて、成長するエコシステムの恩恵を受けられます。

現在、15のラボパートナーがこのプラットフォームに参加しており、多様なユースケースをカバーしています。Cartesiaはリアルタイム音声インテリジェンス向けの状態空間モデルを構築し、90ミリ秒未満のレイテンシを実現。Gradiumはストリーミングネイティブの音声モデル（TTS、STT、音声クローン、音声デザイン）を提供。Inceptionは拡散LLM「Mercury 2」を開発し、最初のトークンまで250ミリ秒未満、毎秒1000トークン以上のスループットを達成。NVIDIAはNemotron ASRやBioNeMoなどのオープンモデルを提供し、Basetenとの配布契約により簡単にデプロイ可能。PyannoteAIの話者認識基盤モデルPyannoteは、複雑な音声でも高精度な話者識別を実現。SID.aiの検索LLM「SID-1」は、再インデックス不要で埋め込み検索よりも約2倍多くの関連文書を発見。Subconsciousは長期AIエージェント向けの推論システムを構築し、コンテキストウィンドウを10倍に拡張。Synthefyの表形式基盤モデルNoriは、再トレーニングなしでXGBoostを上回る精度を達成。その他、Bria、Canopy Labs（Orpheus TTS）、Cosine（Lumen）、Krea（Turbo）、MongoDB（Voyage 4）、Musubi（PolicyLM-1b）、Scaled Cognition（APT-1）などのパートナーも参加しています。

Basetenは、AIの未来は少数の大規模フロンティアモデルだけでなく、オープンウェイトと専門的なクローズドウェイトモデルが共存する多様なエコシステムによって駆動されると確信しています。Baseten for Model Labsは、本番対応の推論インフラ、モデルライブラリ配布、および共同マーケット投入支援を組み合わせることで、ラボが優れたモデルの構築に集中できるよう支援し、長期的な推論成長を促進します。このプラットフォームは現在利用可能で、詳細はBaseten for Model Labsのサイトをご覧ください。