NVIDIA釋出Nemotron-Labs-TwoTower:基於凍結自迴歸骨幹網路的開放權重擴散語言模型
NVIDIA釋出了Nemotron-Labs-TwoTower擴散語言模型,該模型採用雙塔架構,在凍結的自迴歸骨幹網路上新增訓練過的去噪器,實現了2.42倍的生成吞吐量提升,同時保留了98.7%的基準質量。模型以開放權重形式釋出,支援擴散、模擬自迴歸和自迴歸三種推理模式。
NVIDIA釋出Nemotron-Labs-TwoTower:基於凍結自迴歸骨幹網路的開放權重擴散語言模型
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。