NVIDIA Vera Rubin：最大化智能体AI每美元智能的关键平台

想象一位职业运动员。将精英选手与其他人区分开来的，是比赛之外的持续改进：根据上一场比赛暴露的问题，调整策略、磨炼技能。智能体AI也是如此。模型不再只是回答问题，而是被赋予一个目标，并需要在环境变化、边缘情况出现和工具变更时不断适应。与生成式模型不同，智能体模型必须规划、使用不同工具，并在遇到问题时恢复。因此，后训练——即在初始训练后对模型进行精炼的阶段——不再是一次性的收尾步骤，而是持续的过程。因为智能体模型运行的环境变化迅速，工具可能每周更新，生产环境中出现的边缘情况是测试集未曾预料到的。每一次部署都带来独特的代码库、策略和环境。后训练循环随着新问题的出现而从生产环境反馈回来。计算规模的增长不是因为单次运行更大，而是因为运行从未停止。智能体AI为后训练引入了新的计算模式，使其成为智能体时代的核心工作负载和每美元智能的主要驱动力。

后训练的目标是通过最大化持续学习循环中每一次前向和反向传播的收益，来最大化每美元智能。前向传播——推理——以每token成本来衡量。因此，每token成本的任何改善都会直接转化为每美元智能的提升。后训练是构建智能的地方。在预训练中，模型学习预测下一个token，这赋予了它流畅性，但没有智能。后训练中，模型学习编写代码、规划多步骤任务、使用搜索工具以及在出错时恢复。推理则是后续步骤：模型在工作中运行，以每token成本定价。由于没有可以背诵的答案，只有奖励，模型通过强化学习技术进行学习。当给定任务时，它会写出一段尝试——前向传播——与它在工作中所做的相同。尝试被评分，教训更新模型权重——反向传播。通过数百万次尝试，智能得以增长。每一步都计算密集，大规模运行这个循环是一个编排问题：数千个环境并行生成试验，奖励被验证，更新后的权重流回训练，加速器得到充分利用。NVIDIA NeMo开源库（如用于训练环境的NeMo Gym和用于分布式后训练的NeMo RL）将后训练从定制研究代码转变为可重复的基础设施。

为什么每美元智能扩展了每token成本？如果推理是收入引擎，那么后训练就是倍增器：模型越强大，每个token的价值就越高。每token成本是推理工厂的关键指标：交付100万个token的总成本。每美元智能则高一层，回答了一个不同的问题：构建一个值得服务的模型需要多少成本，并在环境变化时保持其价值？两者相互嵌套而非竞争。降低每token成本的AI基础设施也降低了模型内置智能点的成本。而每一个内置的智能点又提高了推理工厂提供的每个token的价值。换句话说，每token成本衡量运营收益；每美元智能衡量模型智能投资是否在产生回报。

最大化每美元智能：后训练Nemotron 3 Ultra。NVIDIA Nemotron 3 Ultra是一个开放权重的5500亿参数混合专家（MoE）模型，提供可验证的基准测试和完全公开的后训练方案，运行在NeMo RL上。它在标准真实世界编码基准测试SWE-bench验证中得分71.7%，即每十个真实软件错误中大约有七个可以生成有效的修复，每个修复都经过项目自身测试的检查。NVIDIA Blackwell平台降低了每次运行的成本，使得智能体时代频繁的后训练在经济上可行。这些智能在服务的每个token中得到回报。NVIDIA Vera Rubin平台进一步扩展了这一趋势，使用Blackwell四分之一数量的GPU即可训练最大的模型。它是端到端协同设计的，旨在最大化智能体后训练负载的每美元智能：每次运行更多的试验，更多的环境参与，以及永不停止的后训练循环。

后训练工作流程实际应用：Prime Intellect的实验室在NVIDIA Blackwell上持续后训练前沿开放模型，并使用NVIDIA Dynamo进行推理编排。借助Vera Rubin，Prime Intellect计划扩展强化学习环境，每次运行生成更多试验，并加速训练到推理的迭代循环，以最大化企业的每美元智能。Prime Intellect已优化其沙箱基础设施以集成NVIDIA Vera CPU，实现低延迟、高能效的强化学习。开源工具和模型如NVIDIA Nemotron和NVIDIA NeMo Gym也集成到其软件栈中。在与替代x86架构比较实际RL沙箱工作负载时，Prime Intellect发现Vera每CPU吞吐量平均高出30%。Perplexity的RL后训练栈在数百个NVIDIA GPU上异步运行，基于RDMA的权重传输引擎在训练和推理计算节点之间同步万亿参数模型，时间不到两秒。后训练后的Qwen3 235B模型随后在NVIDIA GB200 NVL72系统上提供服务。Together AI提供后训练即服务，包括监督微调、RL和直接偏好优化。该服务通过功能丰富的API和SDK交付，支持其AI Native Cloud平台上的全套后训练。它已在NVIDIA平台和优化内核库上运行，并计划下一步利用Vera Rubin平台。

了解更多关于NVIDIA Vera Rubin，这是AI工厂跨工作负载最大化每美元智能的平台。并探索NVIDIA用于训练前沿模型的全栈平台。