MinIO推出MemKV：為AI推理量身打造的上下文記憶存儲

要點

• MemKV在PB級實現微秒級上下文檢索，專為AI推理設計。
• 消除了GPU集羣中的上下文丟失問題，減少重計算税。
• 在128 GPU部署中可將GPU利用率從50%提升至90%以上，年節省200萬美元。
• 原生支持NVIDIA BlueField-4 STX架構和RDMA傳輸。