MinIO推出MemKV：為AI推理量身打造的上下文記憶儲存

要點

• MemKV在PB級實現微秒級上下文檢索，專為AI推理設計。
• 消除了GPU叢集中的上下文丟失問題，減少重計算稅。
• 在128 GPU部署中可將GPU利用率從50%提升至90%以上，年節省200萬美元。
• 原生支援NVIDIA BlueField-4 STX架構和RDMA傳輸。