AI News HubLIVE
站内改写2 分钟阅读

Databricks与NVIDIA:共建智能体时代

Databricks和NVIDIA宣布扩大合作,推出端到端AI平台,加速模型训练、推理和智能体AI开发。新功能包括AI Runtime中的多节点训练、Free Edition GPU支持、模型服务增强,以及NVIDIA Agent Toolkit集成。客户可在Databricks内直接使用NVIDIA的行业专用AI框架,应用于医疗、生命科学、供应链、机器人等领域。

Databricks和NVIDIA在Data + AI Summit上宣布扩大合作,共同构建一个端到端的AI平台,旨在加速模型训练、推理和智能体AI开发,并基于治理的企业数据运行。

新推出的功能包括:AI Runtime中的多节点训练功能,利用NVIDIA Hopper GPU和Quantum InfiniBand实现高效分布式训练;Free Edition支持GPU,让开发者、学生和初创公司能够免费使用GPU进行AI工作负载;Model Serving增强,集成NVIDIA Triton推理服务器以提供低延迟、高吞吐量的推理;以及支持NVIDIA Agent Toolkit,使团队能在Databricks Apps上直接部署和管理智能体工作流。

客户现在可以在Databricks平台内直接使用NVIDIA的行业专用AI框架,包括MONAI(医学影像)、BioNeMo(药物发现)、ParaBricks(基因组学)、Isaac Sim(机器人仿真)和Omniverse(数字孪生)等。这些集成使行业研发团队无需离开Databricks即可利用加速计算能力。

针对智能体时代的到来,双方还探索了NVIDIA Vera CPU,这是一款专为智能体工作负载设计的CPU,可提供高达3倍更快的SQL查询和80%更快的智能体性能,并具备大内存带宽和快速核间通信能力。其愿景是:模型在NVIDIA GPU上运行推理,而智能体编排和工具调用则在Vera CPU上执行,每个工作负载都在为其特性量身定制的芯片上运行。

在开发者体验方面,NVIDIA Agent Toolkit已可在Databricks Apps上部署,提供护栏、工具使用、检索增强生成和多步推理等功能。此外,Genie Code增加了对GPU工作负载的调试和性能优化支持,帮助开发者更高效地利用NVIDIA硬件。

Databricks产品高级副总裁Adam Conway表示:“我们的合作覆盖了整个AI生命周期,从NVIDIA加速基础设施支持AI Runtime中的分布式训练,到运行在我们的服务和开发者平台中的软件。结合Databricks的数据和治理能力,我们为客户释放巨大价值:快速、可扩展且值得信赖的企业AI。”

NVIDIA企业战略合作伙伴副总裁Pat Lee补充道:“通过扩大合作,NVIDIA和Databricks正在加速下一波企业AI浪潮,将全栈NVIDIA加速计算(包括Vera CPU、Rubin GPU、Quantum InfiniBand网络和Agent Toolkit软件)嵌入Databricks平台。”

展望未来,双方将继续为智能体时代构建基础设施,无论客户是初创企业、制药公司还是大型企业,都能从Databricks和NVIDIA的合作中获得性能、简洁性和治理能力。