MinIO 为 Nvidia GPU 推理推出 PB 级 MemKV 缓存
MinIO 发布了 PB 级 MemKV 缓存系统,专为 Nvidia GPU 推理设计,基于 AIStor 对象存储。该系统兼容 Nvidia STX 架构,通过端到端 RDMA 传输实现微秒级延迟,将 GPU 利用率从 50% 提升至 90% 以上,每年可节省 200 万美元计算成本。
MinIO 为 Nvidia GPU 推理推出 PB 级 MemKV 缓存
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。