Baseten のモデルパフォーマンスチームは、オープンソースのテキストから動画への生成モデル Wan 2.2 において、画期的な推論性能の向上を達成しました。複数の最適化を組み合わせることで、1 クリップあたりの生成時間を2分以上からわずか2.75秒に短縮し、ベースライン実装と比較して53.6倍の高速化を実現しました。これにより、リアルタイム動画生成が可能となり、コストも1動画あたり5セントから0.17セント未満へと31分の1に削減されました。
主な最適化は3つです。タイムステップ蒸留では、拡散ステップをデフォルトの40～80ステップから4ステップに削減し、約20倍の高速化を達成しました。ただし、この非可逆的な最適化により視覚的アーティファクトが生じる可能性があります。カスタムカーネルエンジニアリングでは、自己注意ボトルネックに対処するため、デフォルトのVSAカーネルより1.58倍高速なカスタムTritonカーネルを作成し、カーネル融合により複数の操作を統合して起動オーバーヘッドを削減しました。NVFP4量子化では、重みを16ビットから4ビットに削減し、B200 GPUのテンソルコアスループットを活用して線形層を約1.5倍高速化しました。
推論インフラも重要です。動画生成はバッチサイズ1で動作するため、水平スケーリングが不可欠です。BasetenはBaseten Delivery Networkを使用してコールドスタートを高速化し、オートスケーリングと優先キューを実装しました。また、不適切な出力を防ぐため、カスタム分類器をトレーニングし、リクエストごとに数ミリ秒でプロンプトを判定します。
この高速動画推論デモは、2026年7月31日まで無料で体験できます。Basetenは、ランタイム、インフラ、ガードレールの統合能力を示し、次世代動画生成技術の開発を促進したいと考えています。