NVIDIA發佈Nemotron-Labs-Diffusion:三模式語言模型,前向令牌數達Qwen3-8B的6倍
NVIDIA推出Nemotron-Labs-Diffusion模型家族,在單一架構中統一自迴歸解碼、擴散並行解碼和自推測解碼。支持3B、8B和14B參數規模,包含基礎、指令和視覺語言變體。自推測模式通過擴散生成候選令牌,再由自迴歸驗證,無需輔助模型。在8B規模下,線性自推測較Qwen3-8B實現6倍前向令牌數,準確率63.61%,優於Qwen3-8B的62.75%。佈署靈活,適用於不同併發場景。
NVIDIA發佈Nemotron-Labs-Diffusion:三模式語言模型,前向令牌數達Qwen3-8B的6倍
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。