本文にスキップ
AI News HubLIVE
その他
要約のみ

Gemma 4 の高速化:マルチトークン予測ドラフターによる推論の高速化

Google は Gemma 4 用のマルチトークン予測(MTP)ドラフターを発表。投機的復号により最大 3 倍の高速化を実現し、品質は維持。軽量ドラフターが複数のトークンを予測し、メインモデルが並行検証。エッジからワークステーション、クラウドまで対応。Apache 2.0 ライセンスで公開。

ソースHacker News AI著者: amrrs
Gemma 4 の高速化:マルチトークン予測ドラフターによる推論の高速化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Gemma 4 用 MTP ドラフターで推論速度が最大 3 倍に。
  • 投機的復号:軽量ドラフターが複数トークンを予測し、ターゲットモデルが並行検証。
  • 出力品質や推論ロジックに劣化なし。
  • Apache 2.0 ライセンスでオープンソース、ローカル・デバイス・クラウドで利用可能。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。