MinIO、AI推論向け専用コンテキストメモリストア「MemKV」を発表

要点

• MemKVはペタバイト規模でマイクロ秒のコンテキスト取得を実現。
• GPUクラスタ全体のコンテキスト損失を排除し、再計算税を削減。
• 128GPU構成でGPU利用率を約50%から90%以上に引き上げ、年間200万ドルを節約。
• NVIDIA BlueField-4 STXアーキテクチャとRDMA転送をネイティブサポート。