本文にスキップ
AI News HubLIVE
要約のみ

NVIDIA、Nemotron-Labs-Diffusionを発表：Qwen3-8B比6倍のトークン/フォワードを実現するトリモード言語モデル

NVIDIAの研究者が、3つのデコードモードを1つのアーキテクチャに統合したNemotron-Labs-Diffusionモデルファミリーを公開。自己回帰(AR)デコード、拡散ベース並列デコード、自己推測デコードをサポート。3B、8B、14Bのパラメータサイズに加え、ベース、インストラクト、ビジョン言語バリアントを提供。自己推測モードでは、Qwen3-8B比6倍のトークン/フォワードを達成しつつ、高精度を維持。

ソースMarkTechPost著者: Asif Razzaq
NVIDIA、Nemotron-Labs-Diffusionを発表：Qwen3-8B比6倍のトークン/フォワードを実現するトリモード言語モデル
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Nemotron-Labs-DiffusionはAR、拡散、自己推測の3つのデコードモードを単一モデルで統合。推論時のアテンションパターン変更のみでモード切替が可能。
  • 8Bスケールの線形自己推測モードで5.99×トークン/フォワード、精度62.81%を達成。Qwen3-8Bをスループットと精度で上回る。
  • トレーニングはARと拡散の結合目的関数(α=0.3)、2段階学習で計1.3Tトークン。Ministral3から初期化し256基のNVIDIA H100 GPUを使用。
  • Hugging Faceでオープンソース公開。3モードに対応したシンプルなAPIを提供。transformers≥5.0.0が必要。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。