サーバーレスGPUの価格設定方法

サーバーレスGPUと予約GPUのコスト比較は、AIチームと財務部門の間で頻繁に議論されるテーマです。鍵となるのはアプリケーションのピーク対平均比、すなわちピーク需要を満たすために必要なGPU数と平均需要に必要なGPU数の比率です。この比率はワークロードの変動性を反映します。

本記事で提案するコストモデルは、サーバーレスGPUが即時にオンデマンドで割り当てられると仮定し、総コストは各時点の需要にレートを乗じた合計となります。一方、予約GPUはピーク需要に基づいて事前に予約する必要があり、総コストはレート×ピーク需要×予約期間となります。モデルはデフォルトで、ModalのB200 GPUのサーバーレス料金とハイパースケーラーの3年予約料金を使用します。

モデルによれば、ピーク対平均比が予約の割引率を超える場合、サーバーレス方式の総コストが低くなります。例えば、予約GPUがサーバーレスより10倍安くても、アプリケーションのピーク対平均比が10であれば、両者のコストは同等です。実際には、予約割引は通常2～5倍であるのに対し、AIワークロードのピーク対平均比は5～10倍以上であることが多く、サーバーレスGPUの方がコスト面で明らかに有利です。

しかし、モデルには限界があります。需要が完全に予測可能で、割り当てと解放が瞬時に行われることを前提としています。これらの前提は予約方式に有利に働きます。なぜなら、現実には予測のずれがSLO違反やリソースの無駄を引き起こすからです。例えば、予測が低すぎるとアプリケーションのパフォーマンス低下、障害増加、ユーザーの不満につながります。予測が高すぎると浪費が発生し、契約締結後に財務的な議論が再燃します。

サーバーレス方式はオートスケーリングで需要変動に対応します。Modalはオートスケーリングの高速化に注力しており、vLLMやSGLangのような複雑な推論サーバーでも数秒で起動できます。速度が不十分な場合は、ウォームプールやバッファで過剰プロビジョニングできますが、コストは増加します。それでも、予約のように人為的な契約制限による内部・外部の交渉を繰り返す必要はありません。

モデルは「オール・オア・ナッシング」戦略（すべてサーバーレスかすべて予約）のみを想定しています。これは数学を簡単にするだけでなく、運用コストの削減にも対応します。しかし、多くの組織はハイブリッド戦略を採用しており、ベースライン負荷（最小需要）を予約でカバーし、バーストまたは超過負荷（その他すべて）をサーバーレスで処理します。バースト部分のピーク対平均比は10～100倍にもなり、サーバーレスが特に有効です。Modalは予約とサーバーレスを組み合わせた経済モデルの導入を検討しており、財務チームが2つのベンダーを調達したり、エンジニアリングチームが2つのシステムを統合したりする必要がなくなります。

コストに加えて、サーバーレスGPUは開発効率の大幅な向上ももたらします。Modalの高速コールドスタートにより、開発者は本番と同じインフラストラクチャに対して開発できるため、開発環境と本番環境の乖離が減り、欠陥率と修復時間が低下します。これにより、総所有コストがさらに削減されます。

要約すると、ピーク対平均比の高いAIアプリケーション（推論、トレーニング、エージェント開発など）には、サーバーレスGPUがコストと柔軟性の両面で優れています。関心のあるチームはModalのサービスを試すか、ハイブリッドソリューションについてお問い合わせください。