本文にスキップ
AI News HubLIVE
その他
要約のみ

NVIDIA、Nemotron-Labs-TwoTowerを公開:凍結された自己回帰バックボーン上に構築されたオープンウェイト拡散言語モデル

NVIDIAは、2つのタワーアーキテクチャを採用した拡散言語モデルNemotron-Labs-TwoTowerを公開しました。凍結された自己回帰バックボーンにトレーニング済みのデノイザーを追加し、ベンチマーク品質の98.7%を維持しながら2.42倍の生成スループットを実現します。オープンウェイトで提供され、拡散、模擬自己回帰、自己回帰の3つの復号モードをサポートします。

ソースMarkTechPost著者: Asif Razzaq
NVIDIA、Nemotron-Labs-TwoTowerを公開:凍結された自己回帰バックボーン上に構築されたオープンウェイト拡散言語モデル
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • TwoTowerは拡散を凍結されたARコンテキストタワーとトレーニング済みデノイザータワーに分割。
  • デフォルト設定で品質98.7%、スループット2.42倍を達成。
  • デノイザーは約2.1Tトークンでトレーニング、バックボーンは25Tトークンで事前トレーニング。
  • 1つのチェックポイントで拡散、模擬AR、ARの3つの復号モードを実行可能。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。