MinIO推出MemKV：为AI推理量身打造的上下文记忆存储

要点

• MemKV在PB级实现微秒级上下文检索，专为AI推理设计。
• 消除了GPU集群中的上下文丢失问题，减少重计算税。
• 在128 GPU部署中可将GPU利用率从50%提升至90%以上，年节省200万美元。
• 原生支持NVIDIA BlueField-4 STX架构和RDMA传输。