MinIO 為 Nvidia GPU 推理推出 PB 級 MemKV 快取
MinIO 釋出了 PB 級 MemKV 快取系統,專為 Nvidia GPU 推理設計,基於 AIStor 物件儲存。該系統相容 Nvidia STX 架構,透過端到端 RDMA 傳輸實現微秒級延遲,將 GPU 利用率從 50% 提升至 90% 以上,每年可節省 200 萬美元計算成本。
MinIO 為 Nvidia GPU 推理推出 PB 級 MemKV 快取
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。