本文にスキップ
AI News HubLIVE
要約のみ

Polymathic AIとプリンストン大学の研究者らがFlashMapを公開、LLMデコードを6.14倍高速化するフローマップドラフター

Polymathic AI、プリンストン大学、USC ISIの研究者らがFlashMapを公開した。離散拡散ドラフターを連続フローマップに置き換える投機的デコーディング手法で、1回のフォワードパスで16トークンをまとめてドラフトし、Qwen3-8Bで最大6.14倍のロスレス高速化を実現する。

ソースMarkTechPost著者: Asif Razzaq
Polymathic AIとプリンストン大学の研究者らがFlashMapを公開、LLMデコードを6.14倍高速化するフローマップドラフター
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • FlashMapは0.5Bパラメータのドラフターで16トークンのブロックを1回のパスでまとめてドラフトし、Qwen3-8Bで最大6.14倍のロスレス高速化を達成
  • 1ステップ版FlashMapは、約半分のパラメータで、再学習したDFlashよりもQwen3-8Bの全9ベンチマークで高速
  • 重みはApache-2.0、コードはMITライセンスで公開され、vLLMとSGLangのプラグインも提供

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。