オープンで便利、予測可能：Provisioned Throughputのご紹介

Together AIは本日、フロンティアオープンモデル向けの予約推論容量サービス「Provisioned Throughput」を発表しました。このサービスはトークンベースの料金設定と99%のアップタイムSLAを提供し、企業がプロダクション環境でオープンモデルを利用する際の容量とコストの不確実性を解決します。

オープンウェイトモデルの普及に伴い、企業はタスクの難易度とコストのバランスを取るためにマルチモデル戦略を採用するケースが増えています。しかし、既存の推論オプションには明確な欠点がありました。サーバーレス推論は便利ですが保証がなく、専用推論は強力ですが管理が複雑です。Provisioned Throughputはこのギャップを埋めるもので、事前最適化されたモデルのシンプルさとトークン価格を提供し、可用性SLA付きの保証容量を実現します。

Provisioned Throughputの核となるのは、Provisioned Throughput Unit（PTU）です。各PTUは固定の容量スライスであり、指定されたモデルに対して保証された1分あたりのトークンレートを提供し、価格はPTU1分あたり0.05ドルです。PTUの消費はトラフィックパターンによって異なります。入力トークン、キャッシュ入力トークン、出力トークンはそれぞれ異なるレートで容量を消費します。ユーザーはGPU時間の計算やインフラ管理を行う必要はなく、推論APIはサーバーレスや専用推論と同一です。

経済面では、Provisioned Throughputは生産コストを大幅に削減します。MiniMax M3を例にとると、1 PTUは1分間に138,840入力トークン、694,200キャッシュ入力トークン、または23,140出力トークンを処理できます。フル活用時、100万入力トークンあたりのコストは約0.36ドル、100万出力トークンあたり約2.16ドルとなり、Claude Opus 4.8のリスト価格（それぞれ5ドルと25ドル）と比較して最大90%の削減を実現します。

Provisioned Throughputは、保証が必要なプロダクションワークロードに適しています。サーバーレス推論は依然として最速のプロトタイピング手段ですが、Provisioned Throughputは標準オープンモデルに信頼性を提供します。ファインチューニングやカスタムモデルを必要とし、サービス環境を詳細に制御したいユーザーには専用推論が適しています。

Together AIは、専有APIからオープンモデルへの移行パスが完全に整ったと述べています。フロンティア品質のモデル、計画可能なトークン料金、そして顧客が依存できる信頼性保証を、最大90%のコスト削減で実現します。Provisioned Throughputは現在MiniMax M3とGLM-5.2に対応しており、今後さらにモデルが追加される予定です。