在今年的 Microsoft Ignite 大会上,NVIDIA 与微软宣布进一步扩展双方的全栈合作,目标是帮助各组织从下一代 Azure 基础设施到工业系统和 Windows PC,都能更顺畅地构建、定制和部署智能应用。这一合作不仅覆盖云端算力,也延伸到边缘计算、本地设备和科学研究等场景。
在云端,NVIDIA Vera Rubin NVL72 系统已经在 Azure 数据中心运行,为推理、代理式应用以及大规模模型训练和推理提供基础设施。两家公司还在合作将机密计算扩展到裸金属和机架级 AI 基础设施,帮助保护处理中的敏感模型和数据。NVIDIA 的机密计算和远程证明技术可以让客户在释放敏感模型、数据或密钥之前验证计算环境,随着 AI 工作负载跨越更多互连加速器,这些保护措施也将覆盖整个 AI 工厂基础设施。此外,双方正通过 NVIDIA MaxLPS 合作提升数据中心的能效,使可用电力发挥更大性能。
Azure 上的 Vera Rubin 预览建立在 NVIDIA 与微软长期协同设计和性能优化的基础上。最新的 NVIDIA Blackwell 平台 MLPerf 结果提供了佐证:在 MLPerf Training v6.1 中,Azure 使用 GB200 NVL72 系统将 DeepSeek-V3 模型扩展到 10,240 块 NVIDIA GPU,是本轮测试中规模最大的提交;在 MLPerf Inference v6.1 中,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互吞吐量上领先云厂商提交超过 10%。
在企业 AI 方面,双方通过 Microsoft Foundry 扩展了可用模型和服务。Microsoft 的无服务器 Programmed Training 产品让开发者控制后训练工作流,而 Foundry 负责管理底层基础设施,企业可以专注于业务数据、评估模型响应并改进模型行为。Foundry Managed Compute 新增对部署自定义模型权重的支持,帮助将模型定制与部署通过微软托管服务连接起来。安永(EY)使用 Microsoft Foundry 中的 Programmed Training 对 NVIDIA Nemotron 开放模型进行适配,用于企业采购记录分类,在其评估数据集上准确率提升 55%,与专有前沿模型相比成本降低 15 倍。这一案例展示了企业如何针对专门业务任务定制开放模型。
扩展后的 NVIDIA Nemotron 3.5 系列在 Foundry Managed Compute 上支持不同企业应用需求。Nemotron 3.5 Super 面向跨编码、研究和业务工作流的长时运行代理,Lightning 则面向需要快速响应和工具调用的应用。配套模型包括用于检索相关信息的 Nemotron Embed 和 Rerank、用于从文档中提取结构化信息的 Nemotron Parse,以及用于检测有害内容的 Nemotron Content Safety。面向高吞吐、低延迟推理的 Nemotron 3.5 Bolt 和语音识别模型 Transcribe 即将推出。
NVIDIA 与微软还在扩展云端之外的部署选项,帮助组织在更接近数据的位置运行模型和代理,同时保持对基础设施和运营的控制。Foundry Local 对 Nemotron 3.5 的支持得到扩展,将推理、编码和工具使用代理能力带到 Azure Local 环境;检索模型可以帮助应用在文本、文档图像、图表和表格中查找证据。Azure Local 还将支持硬件合作伙伴提供的 NVIDIA RTX PRO 6000 Blackwell GPU,为本地部署 AI 提供更多选择。Azure Local 正在扩展到 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,以支持机器视觉、机器人和自主运营等工业应用。NVIDIA 的物理 AI 模型(包括 Cosmos)也将引入 Foundry Local。
在 Windows PC 方面,搭载 NVIDIA RTX Spark 的设备将在 Ignite 上展示本地大语言模型体验,演示开发者如何直接在设备上运行 AI 应用。对于使用云 PC 的组织,双方将 Direct Stream 能力引入 GPU 加速的 Windows 365 Cloud PC,支持最高两路 4K 60 帧/秒的图形应用流,即使在挑战性网络下也能保持低延迟。有限预览已开放注册,公开预览计划于 2027 年初推出。
在科学研究领域,NVIDIA BioNeMo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在扩展至 Microsoft Discovery 目录,将生命科学、药物发现以及材料和化学科学模型引入微软的代理式研究平台。BioNeMo Agent Toolkit 帮助科学家用自然语言在 Microsoft Discovery 中运行计算生物学工作流,由代理协调所需工具和模型调用。初始集成使用与华盛顿大学蛋白质设计研究所合作开发的 RFD4-Proteina 模型,生成候选蛋白质结构和氨基酸序列,供进一步评估和实验室验证。
除了向客户提供 NVIDIA 技术,微软也在自己的 AI 开发和服务中使用 NVIDIA 软件和加速计算。微软 AI 使用 NVIDIA Dynamo 支持后训练期间的强化学习 rollout 推理,这一计算密集型过程生成用于改进模型的体验。Dynamo 协调大规模 GPU 集群上的推理,优化性能,并帮助管理请求、模型更新和故障恢复。该部署建立在微软 AI 与 NVIDIA 的联合工程基础上。
在 Ignite 上,NVIDIA 将展示涵盖企业应用、机器人、加速数据处理和本地计算的演示,硬件包括 NVIDIA GB300 NVL72 机架和 RTX Spark 设备。参观者还可以参加 NVIDIA 的会议、动手实验室和展台剧场演示。