NVIDIA发布Nemotron-Labs-TwoTower:基于冻结自回归骨干网络的开放权重扩散语言模型
NVIDIA发布了Nemotron-Labs-TwoTower扩散语言模型,该模型采用双塔架构,在冻结的自回归骨干网络上添加训练过的去噪器,实现了2.42倍的生成吞吐量提升,同时保留了98.7%的基准质量。模型以开放权重形式发布,支持扩散、模拟自回归和自回归三种推理模式。
NVIDIA发布Nemotron-Labs-TwoTower:基于冻结自回归骨干网络的开放权重扩散语言模型
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。