Databricks與NVIDIA:共建智慧體時代
Databricks和NVIDIA宣佈擴大合作,推出端到端AI平臺,加速模型訓練、推理和智慧體AI開發。新功能包括AI Runtime中的多節點訓練、Free Edition GPU支援、模型服務增強,以及NVIDIA Agent Toolkit整合。客戶可在Databricks內直接使用NVIDIA的行業專用AI框架,應用於醫療、生命科學、供應鏈、機器人等領域。
Databricks和NVIDIA在Data + AI Summit上宣佈擴大合作,共同構建一個端到端的AI平臺,旨在加速模型訓練、推理和智慧體AI開發,並基於治理的企業資料執行。
新推出的功能包括:AI Runtime中的多節點訓練功能,利用NVIDIA Hopper GPU和Quantum InfiniBand實現高效分散式訓練;Free Edition支援GPU,讓開發者、學生和初創公司能夠免費使用GPU進行AI工作負載;Model Serving增強,整合NVIDIA Triton推理伺服器以提供低延遲、高吞吐量的推理;以及支援NVIDIA Agent Toolkit,使團隊能在Databricks Apps上直接部署和管理智慧體工作流。
客戶現在可以在Databricks平臺內直接使用NVIDIA的行業專用AI框架,包括MONAI(醫學影像)、BioNeMo(藥物發現)、ParaBricks(基因組學)、Isaac Sim(機器人模擬)和Omniverse(數字孿生)等。這些整合使行業研發團隊無需離開Databricks即可利用加速計算能力。
針對智慧體時代的到來,雙方還探索了NVIDIA Vera CPU,這是一款專為智慧體工作負載設計的CPU,可提供高達3倍更快的SQL查詢和80%更快的智慧體效能,並具備大記憶體頻寬和快速核間通訊能力。其願景是:模型在NVIDIA GPU上執行推理,而智慧體編排和工具呼叫則在Vera CPU上執行,每個工作負載都在為其特性量身定製的晶片上執行。
在開發者體驗方面,NVIDIA Agent Toolkit已可在Databricks Apps上部署,提供護欄、工具使用、檢索增強生成和多步推理等功能。此外,Genie Code增加了對GPU工作負載的除錯和效能最佳化支援,幫助開發者更高效地利用NVIDIA硬體。
Databricks產品高階副總裁Adam Conway表示:“我們的合作覆蓋了整個AI生命週期,從NVIDIA加速基礎設施支援AI Runtime中的分散式訓練,到執行在我們的服務和開發者平臺中的軟體。結合Databricks的資料和治理能力,我們為客戶釋放巨大價值:快速、可擴充套件且值得信賴的企業AI。”
NVIDIA企業戰略合作伙伴副總裁Pat Lee補充道:“透過擴大合作,NVIDIA和Databricks正在加速下一波企業AI浪潮,將全棧NVIDIA加速計算(包括Vera CPU、Rubin GPU、Quantum InfiniBand網路和Agent Toolkit軟體)嵌入Databricks平臺。”
展望未來,雙方將繼續為智慧體時代構建基礎設施,無論客戶是初創企業、製藥公司還是大型企業,都能從Databricks和NVIDIA的合作中獲得效能、簡潔性和治理能力。