英伟达研究团队于2026年6月12日在arXiv提交了Nemotron 3 Ultra模型的技术论文（编号arXiv:2606.15007v1，属cs.CL计算与语言分类，同时涉及cs.AI与cs.LG）。这是一款总参数量5500亿、激活参数量550亿的混合专家（Mixture-of-Experts）混合Mamba-Attention语言模型，论文作者规模空前，除Aaron Blakeman外还列有570位合著者，第一作者为Abhinav Khattar。
在训练流程上，研究团队首先使用20万亿文本token对模型进行预训练，随后将上下文长度扩展至100万token，再通过监督微调（SFT）、强化学习（RL）以及多教师同策略蒸馏（MOPD）完成后期训练。官方称这是其迄今为止能力最强的模型，并集中采用了多项关键技术，包括LatentMoE、多Token预测（MTP）、NVFP4预训练、多环境RLVR、MOPD以及推理预算控制机制。
性能方面，论文摘要指出Nemotron 3 Ultra在与当前公开可用的最先进大模型保持相当准确率的前提下，推理吞吐量最高可提升约6倍。结合领先的准确率、高推理吞吐以及100万token上下文长度，该模型被定位为适合长时间运行的自主智能体（agentic）任务。
开放性是此次发布的重要特点：团队在HuggingFace上开源了基础模型、后期训练模型以及量化后的检查点，同时公开训练数据与训练配方。论文提交时长为3,234 KB，提供PDF、实验性HTML以及TeX源码，采用arXiv许可发布，DOI为10.48550/arXiv.2606.15007，相关代码与数据链接可通过alphaXiv、Hugging Face、DagsHub等工具获取。
从时间线看，提交记录显示版本v1于2026年6月12日22:56:12 UTC上传，隶属于2026年6月的cs.CL新增论文列表。论文的摘要与元数据未提及具体基准测试分数、硬件配置或训练成本等细节，这些内容需查阅完整论文。总体而言，该工作将高效推理、超长上下文与完全开源结合起来，对需要长期自主运行的智能体应用具有直接意义。