MinIO 為 Nvidia GPU 推理推出 PB 級 MemKV 緩存
MinIO 發佈了 PB 級 MemKV 緩存系統,專為 Nvidia GPU 推理設計,基於 AIStor 對象存儲。該系統兼容 Nvidia STX 架構,通過端到端 RDMA 傳輸實現微秒級延遲,將 GPU 利用率從 50% 提升至 90% 以上,每年可節省 200 萬美元計算成本。
MinIO 為 Nvidia GPU 推理推出 PB 級 MemKV 緩存
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。