跳到主要内容
AI News HubLIVE
站内改写3 分钟阅读

NVIDIA 与微软扩大加速计算合作:从 Azure 延伸到 Windows PC

文章摘要

NVIDIA 与微软在 Microsoft Ignite 上宣布扩展全栈合作,将 Azure 上的 Vera Rubin NVL72 系统、开放模型定制、边缘 AI 和 Windows PC 本地 AI 能力整合,帮助企业更灵活地构建和部署智能应用。

来源NVIDIA Blog作者: Dave Salvator
NVIDIA 与微软扩大加速计算合作:从 Azure 延伸到 Windows PC
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在今年的 Microsoft Ignite 大会上,NVIDIA 与微软宣布进一步扩展双方的全栈合作,目标是帮助各组织从下一代 Azure 基础设施到工业系统和 Windows PC,都能更顺畅地构建、定制和部署智能应用。这一合作不仅覆盖云端算力,也延伸到边缘计算、本地设备和科学研究等场景。

在云端,NVIDIA Vera Rubin NVL72 系统已经在 Azure 数据中心运行,为推理、代理式应用以及大规模模型训练和推理提供基础设施。两家公司还在合作将机密计算扩展到裸金属和机架级 AI 基础设施,帮助保护处理中的敏感模型和数据。NVIDIA 的机密计算和远程证明技术可以让客户在释放敏感模型、数据或密钥之前验证计算环境,随着 AI 工作负载跨越更多互连加速器,这些保护措施也将覆盖整个 AI 工厂基础设施。此外,双方正通过 NVIDIA MaxLPS 合作提升数据中心的能效,使可用电力发挥更大性能。

Azure 上的 Vera Rubin 预览建立在 NVIDIA 与微软长期协同设计和性能优化的基础上。最新的 NVIDIA Blackwell 平台 MLPerf 结果提供了佐证:在 MLPerf Training v6.1 中,Azure 使用 GB200 NVL72 系统将 DeepSeek-V3 模型扩展到 10,240 块 NVIDIA GPU,是本轮测试中规模最大的提交;在 MLPerf Inference v6.1 中,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互吞吐量上领先云厂商提交超过 10%。

在企业 AI 方面,双方通过 Microsoft Foundry 扩展了可用模型和服务。Microsoft 的无服务器 Programmed Training 产品让开发者控制后训练工作流,而 Foundry 负责管理底层基础设施,企业可以专注于业务数据、评估模型响应并改进模型行为。Foundry Managed Compute 新增对部署自定义模型权重的支持,帮助将模型定制与部署通过微软托管服务连接起来。安永(EY)使用 Microsoft Foundry 中的 Programmed Training 对 NVIDIA Nemotron 开放模型进行适配,用于企业采购记录分类,在其评估数据集上准确率提升 55%,与专有前沿模型相比成本降低 15 倍。这一案例展示了企业如何针对专门业务任务定制开放模型。

扩展后的 NVIDIA Nemotron 3.5 系列在 Foundry Managed Compute 上支持不同企业应用需求。Nemotron 3.5 Super 面向跨编码、研究和业务工作流的长时运行代理,Lightning 则面向需要快速响应和工具调用的应用。配套模型包括用于检索相关信息的 Nemotron Embed 和 Rerank、用于从文档中提取结构化信息的 Nemotron Parse,以及用于检测有害内容的 Nemotron Content Safety。面向高吞吐、低延迟推理的 Nemotron 3.5 Bolt 和语音识别模型 Transcribe 即将推出。

NVIDIA 与微软还在扩展云端之外的部署选项,帮助组织在更接近数据的位置运行模型和代理,同时保持对基础设施和运营的控制。Foundry Local 对 Nemotron 3.5 的支持得到扩展,将推理、编码和工具使用代理能力带到 Azure Local 环境;检索模型可以帮助应用在文本、文档图像、图表和表格中查找证据。Azure Local 还将支持硬件合作伙伴提供的 NVIDIA RTX PRO 6000 Blackwell GPU,为本地部署 AI 提供更多选择。Azure Local 正在扩展到 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,以支持机器视觉、机器人和自主运营等工业应用。NVIDIA 的物理 AI 模型(包括 Cosmos)也将引入 Foundry Local。

在 Windows PC 方面,搭载 NVIDIA RTX Spark 的设备将在 Ignite 上展示本地大语言模型体验,演示开发者如何直接在设备上运行 AI 应用。对于使用云 PC 的组织,双方将 Direct Stream 能力引入 GPU 加速的 Windows 365 Cloud PC,支持最高两路 4K 60 帧/秒的图形应用流,即使在挑战性网络下也能保持低延迟。有限预览已开放注册,公开预览计划于 2027 年初推出。

在科学研究领域,NVIDIA BioNeMo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在扩展至 Microsoft Discovery 目录,将生命科学、药物发现以及材料和化学科学模型引入微软的代理式研究平台。BioNeMo Agent Toolkit 帮助科学家用自然语言在 Microsoft Discovery 中运行计算生物学工作流,由代理协调所需工具和模型调用。初始集成使用与华盛顿大学蛋白质设计研究所合作开发的 RFD4-Proteina 模型,生成候选蛋白质结构和氨基酸序列,供进一步评估和实验室验证。

除了向客户提供 NVIDIA 技术,微软也在自己的 AI 开发和服务中使用 NVIDIA 软件和加速计算。微软 AI 使用 NVIDIA Dynamo 支持后训练期间的强化学习 rollout 推理,这一计算密集型过程生成用于改进模型的体验。Dynamo 协调大规模 GPU 集群上的推理,优化性能,并帮助管理请求、模型更新和故障恢复。该部署建立在微软 AI 与 NVIDIA 的联合工程基础上。

在 Ignite 上,NVIDIA 将展示涵盖企业应用、机器人、加速数据处理和本地计算的演示,硬件包括 NVIDIA GB300 NVL72 机架和 RTX Spark 设备。参观者还可以参加 NVIDIA 的会议、动手实验室和展台剧场演示。

展开要点与分析

文章情报

工程师进阶

要点

  • Azure 数据中心已运行 NVIDIA Vera Rubin NVL72 系统,并推进机密计算和能效优化。
  • 微软 Foundry 新增 NVIDIA Nemotron 3.5 系列模型支持,EY 案例显示准确率提升 55%、成本降低 15 倍。
  • AI 能力向边缘和本地延伸,包括 Azure Local 支持 RTX PRO 6000 Blackwell GPU、Jetson Thor/Orin 平台以及 Windows PC 上的本地大模型体验。
  • 微软自身使用 NVIDIA Dynamo 和 RTX PRO 6000 Blackwell GPU 加速模型训练与 Bing 搜索服务。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。