DFlash投機的復号：トークンブロック全体を並列生成し、NVIDIA Blackwellで最大15倍のスループット向上

UCサンディエゴのDFlashは、自己回帰的なドラフト生成を軽量なブロック拡散モデルに置き換えた投機的復号手法です。単一の前方パスでトークンブロック全体を生成し、KV注入を通じてターゲットの隠れ特徴をドラフトモデルに条件付けます。論文ではQwen3-8Bで最大6.08倍のロスレス高速化を報告し、NVIDIAは固定インタラクティブ性条件下でBlackwell上で15倍のスループット向上を報告しています。DFlashは20のチェックポイントを提供し、SGLang、vLLM、TensorRT-LLMをサポートしています。