NVCF:大規模部署和路由 GPU 加速 AI 工作負載
NVIDIA Cloud Functions (NVCF) 是一個用於大規模部署、管理和執行 GPU 加速工作負載的開源平臺。它支援長期執行的函式和非同步任務,利用 Kubernetes 進行編排,並提供統一控制平面、負載均衡路由、多叢集自動縮放等功能。本文介紹了 NVCF 的架構、工作負載型別、核心能力以及如何使用 Bazel 構建。
NVCF:大規模部署和路由 GPU 加速 AI 工作負載
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。