Google AI、Gemma 4向けマルチトークン予測ドラフターを公開：品質を損なわずに最大3倍の推論高速化
GoogleはGemma 4ファミリー向けにMTPドラフターを導入。投機的デコーディングにより品質を維持しながら最大3倍の推論速度を実現。ドラフターはターゲットモデルのKVキャッシュとアクティベーションを共有し、エッジモデル向けに最適化されている。
Google AI、Gemma 4向けマルチトークン予測ドラフターを公開：品質を損なわずに最大3倍の推論高速化
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。