NVIDIA发布Nemotron-Labs-Diffusion:三模式语言模型,前向令牌数达Qwen3-8B的6倍
NVIDIA推出Nemotron-Labs-Diffusion模型家族,在单一架构中统一自回归解码、扩散并行解码和自推测解码。支持3B、8B和14B参数规模,包含基础、指令和视觉语言变体。自推测模式通过扩散生成候选令牌,再由自回归验证,无需辅助模型。在8B规模下,线性自推测较Qwen3-8B实现6倍前向令牌数,准确率63.61%,优于Qwen3-8B的62.75%。布署灵活,适用于不同并发场景。
NVIDIA发布Nemotron-Labs-Diffusion:三模式语言模型,前向令牌数达Qwen3-8B的6倍
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。