DeepSeek、DSparkを発表:投機的デコードフレームワークでDeepSeek-V4のユーザーあたり生成速度を60~85%向上
DeepSeekは、既存のDeepSeek-V4重みにドラフトモジュールを追加する投機的デコードフレームワークDSparkをオープンソース化しました。並列ドラフトバックボーンと軽量なマルコフヘッドを組み合わせてサフィックス減衰を抑制し、信頼度スケジュール検証によりGPU負荷に応じてチェックするトークン数を調整します。オフラインでは、DFlashやEagle3と比較して受理長が16~31%向上。本番環境では、MTP-1ベースラインと比較してユーザーあたり生成速度が57~85%向上し、損失はありません。トレーニングリポジトリDeepSpecはMITライセンスで提供されます。
DeepSeek、DSparkを発表:投機的デコードフレームワークでDeepSeek-V4のユーザーあたり生成速度を60~85%向上
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。