AI News HubLIVE
站内改写3 分鐘閱讀

HPE與NVIDIA擴充套件AI工廠,迎接智慧體時代

企業正將智慧體AI從概念驗證轉向生產,下一代AI工廠為此設計。在HPE Discover大會上,NVIDIA和HPE宣佈擴充套件HPE AI Factory,包括NVIDIA Vera CPU和NVIDIA Agent Toolkit。Vera CPU專為智慧體設計,提供確定性低延遲效能。NVIDIA機密計算現覆蓋整個HPE AI Factory產品組合。此外,全棧NVIDIA整合增強,涵蓋網路、DPU和GPU。

來源NVIDIA Blog作者: Chris Marriott

企業正在將智慧體AI從概念驗證階段推進到生產部署,而下一代AI工廠正是為智慧體時代量身打造的。在正在拉斯維加斯舉行的HPE Discover大會(持續至6月18日)上,NVIDIA與HPE宣佈擴充套件HPE AI Factory with NVIDIA,引入NVIDIA Vera CPU和NVIDIA Agent Toolkit for HPE Private Cloud AI。此外,NVIDIA機密計算現已覆蓋整個HPE AI Factory產品組合,並且增強的全棧NVIDIA整合(包括NVIDIA加速計算、AI軟體和網路)已全面可用。

NVIDIA Vera CPU將隨HPE Private Cloud AI提供 配備NVIDIA Vera CPU的HPE ProLiant Compute DL394 Gen12將於2027年透過HPE Private Cloud AI上市。HPE Private Cloud AI是與NVIDIA聯合設計的即用型AI工廠。Vera是首款專為智慧體構建的CPU——針對智慧體迴圈中所需的工具呼叫、編排和即時資料處理進行了最佳化,為HPE Private Cloud AI帶來確定性、低延遲的效能。紐約證券交易所與Redpanda和HPE合作,成為探索Vera CPU及HPE ProLiant Compute DL394 Gen12伺服器的早期企業客戶。Vera CPU是NVIDIA Vera Rubin平臺的一部分,該平臺正與NVIDIA Vera Rubin NVL72機架級系統一起進入全面生產階段,從HPE即可獲得。Vera Rubin專為引數超過1萬億的前沿模型構建,並將全線配備全棧NVIDIA機密計算。HPE還將把基於NVIDIA HGX Rubin NVL8的HPE Compute XD700引入HPE AI Factory,每個機架支援多達128個Rubin GPU。

NVIDIA Agent Toolkit現已隨HPE Private Cloud AI提供 NVIDIA Agent Toolkit(包括NVIDIA Nemotron開放模型、NVIDIA OpenShell安全執行時和NVIDIA NemoClaw藍圖)將隨HPE Private Cloud AI一起提供。這些工具共同為企業提供了一個智慧體AI作業系統,用於監控智慧體行為、執行治理策略,並安全地構建和執行自主、長期執行的多智慧體系統。HPE Private Cloud AI增加了安全的本地智慧體註冊功能,允許客戶在執行前根據集中治理和安全策略批准AI模型、技能和工具。新的HPE Zerto軟體功能可檢測惡意智慧體行為,並使用持續資料保護回滾到乾淨狀態。在資料方面,已達到NVIDIA認證儲存基礎級別的HPE Alletra Storage MP X10000會自動應用後設資料和治理策略,為非結構化資料準備AI管道,從而提高令牌吞吐量。

NVIDIA機密計算覆蓋所有HPE AI Factory解決方案 NVIDIA機密計算現已透過HPE服務(包括HPE AI Factory at Scale、HPE Sovereign AI Factory和HPE Private Cloud AI)在HPE AI Factory中可用。AI應用程式會訪問和使用需要保護和安全的私密和敏感資料。此外,使用專有資料或技術訓練的模型需要防止外洩。機密計算對於這些現代AI工作負載至關重要,它可以在執行過程中保護模型和私密資料,適用於本地和主權部署,透過加密認證和加密在每個階段建立信任鏈。此外,HPE ProLiant Compute DL380a已獲得NVIDIA認證系統的機密計算認證,這驗證了其在機密計算環境下的強大應用效能。這些系統為AI工作負載和敏感資料資產提供基於硬體的保護,同時保持最佳的NVIDIA加速效能。在整個HPE AI Factory解決方案中,NVIDIA BlueField DPU和NVIDIA DOCA提供了晶片內的零信任策略執行、執行時威脅檢測和網路加密,在不犧牲效能的情況下保護AI工作負載、智慧體和資料。

全棧NVIDIA整合增強,覆蓋整個產品組合 HPE AI Factory at Scale、HPE Sovereign AI Factory和HPE Private Cloud AI現在均支援NVIDIA RTX PRO 6000 Blackwell Server Edition GPU、NVIDIA Spectrum-X乙太網網路、NVIDIA BlueField-3 DPU和NVIDIA ConnectX-8 SuperNIC。對於下一代AI工廠,每個Vera Rubin NVL72系統都將內建NVIDIA網路——包括NVIDIA Vera BlueField-4 DPU、NVIDIA ConnectX-9 SuperNIC和NVIDIA Spectrum-X乙太網——其中NVIDIA Spectrum-6交換機的AI通訊網路效能比現成乙太網高出1.6倍。Spectrum-X乙太網網路是HPE AI Factory with NVIDIA的標準配置,包括現已提供的規模級、主權和即用型AI工廠解決方案。對於大規模和主權工作負載,HPE在3月的NVIDIA GTC上宣佈,還將增加NVIDIA InfiniBand網路選項,包括HPE Cray Supercomputing GX5000上的NVIDIA Quantum-X800 InfiniBand。這些配置基於NVIDIA參考架構,支援從AI開發到生產級部署的用例,並配備NVIDIA AI Enterprise軟體和HPE Unleash AI生態系統。本週在HPE Discover上,Unleash AI合作伙伴計劃正在擴充套件,新增近十家AI軟體合作伙伴,包括Aizen、BridgeTEK、deepset、Deliverance、Faclon Labs、Gallop、Rocket、Supervity、Thales、Trustwise和Vortiqx。與會者可在展會期間探索這些解決方案,並瞭解更多關於HPE AI Factory with NVIDIA的資訊,該方案屬於NVIDIA AI Computing by HPE產品組合的一部分。