本文にスキップ
AI News HubLIVE
要約のみ

DeepSeek、DSparkを発表:投機的デコードフレームワークでDeepSeek-V4のユーザーあたり生成速度を60~85%向上

DeepSeekは、既存のDeepSeek-V4重みにドラフトモジュールを追加する投機的デコードフレームワークDSparkをオープンソース化しました。並列ドラフトバックボーンと軽量なマルコフヘッドを組み合わせてサフィックス減衰を抑制し、信頼度スケジュール検証によりGPU負荷に応じてチェックするトークン数を調整します。オフラインでは、DFlashやEagle3と比較して受理長が16~31%向上。本番環境では、MTP-1ベースラインと比較してユーザーあたり生成速度が57~85%向上し、損失はありません。トレーニングリポジトリDeepSpecはMITライセンスで提供されます。

ソースMarkTechPost著者: Asif Razzaq
DeepSeek、DSparkを発表:投機的デコードフレームワークでDeepSeek-V4のユーザーあたり生成速度を60~85%向上
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • DSparkは並列ドラフトバックボーンと軽量マルコフヘッドを組み合わせ、サフィックス受理率を向上。
  • 信頼度スケジュール検証によりGPU負荷に応じてチェックトークン数を動的調整。
  • オフライン受理長はEagle3比26-31%向上、DFlash比16-18%向上。本番速度は57-85%向上。
  • 出力は損失なく、チェックポイントとDeepSpecトレーニングコードはオープンソース。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

DeepSeek、DSparkを発表:投機的デコードフレームワークでDeepSeek-V4のユーザーあたり生成速度を60~85%向上 | AI News Hub