AI News HubLIVE
站内改写2 分鐘閱讀

Databricks與NVIDIA:共建智能體時代

Databricks和NVIDIA宣佈擴大合作,推出端到端AI平台,加速模型訓練、推理和智能體AI開發。新功能包括AI Runtime中的多節點訓練、Free Edition GPU支持、模型服務增強,以及NVIDIA Agent Toolkit集成。客户可在Databricks內直接使用NVIDIA的行業專用AI框架,應用於醫療、生命科學、供應鏈、機器人等領域。

Databricks和NVIDIA在Data + AI Summit上宣佈擴大合作,共同構建一個端到端的AI平台,旨在加速模型訓練、推理和智能體AI開發,並基於治理的企業數據運行。

新推出的功能包括:AI Runtime中的多節點訓練功能,利用NVIDIA Hopper GPU和Quantum InfiniBand實現高效分佈式訓練;Free Edition支持GPU,讓開發者、學生和初創公司能夠免費使用GPU進行AI工作負載;Model Serving增強,集成NVIDIA Triton推理服務器以提供低延遲、高吞吐量的推理;以及支持NVIDIA Agent Toolkit,使團隊能在Databricks Apps上直接部署和管理智能體工作流。

客户現在可以在Databricks平台內直接使用NVIDIA的行業專用AI框架,包括MONAI(醫學影像)、BioNeMo(藥物發現)、ParaBricks(基因組學)、Isaac Sim(機器人仿真)和Omniverse(數字孿生)等。這些集成使行業研發團隊無需離開Databricks即可利用加速計算能力。

針對智能體時代的到來,雙方還探索了NVIDIA Vera CPU,這是一款專為智能體工作負載設計的CPU,可提供高達3倍更快的SQL查詢和80%更快的智能體性能,並具備大內存帶寬和快速核間通信能力。其願景是:模型在NVIDIA GPU上運行推理,而智能體編排和工具調用則在Vera CPU上執行,每個工作負載都在為其特性量身定製的芯片上運行。

在開發者體驗方面,NVIDIA Agent Toolkit已可在Databricks Apps上部署,提供護欄、工具使用、檢索增強生成和多步推理等功能。此外,Genie Code增加了對GPU工作負載的調試和性能優化支持,幫助開發者更高效地利用NVIDIA硬件。

Databricks產品高級副總裁Adam Conway表示:“我們的合作覆蓋了整個AI生命週期,從NVIDIA加速基礎設施支持AI Runtime中的分佈式訓練,到運行在我們的服務和開發者平台中的軟件。結合Databricks的數據和治理能力,我們為客户釋放巨大價值:快速、可擴展且值得信賴的企業AI。”

NVIDIA企業戰略合作伙伴副總裁Pat Lee補充道:“通過擴大合作,NVIDIA和Databricks正在加速下一波企業AI浪潮,將全棧NVIDIA加速計算(包括Vera CPU、Rubin GPU、Quantum InfiniBand網絡和Agent Toolkit軟件)嵌入Databricks平台。”

展望未來,雙方將繼續為智能體時代構建基礎設施,無論客户是初創企業、製藥公司還是大型企業,都能從Databricks和NVIDIA的合作中獲得性能、簡潔性和治理能力。