MinIO、Nvidia GPU推論向けペタバイト級MemKVキャッシュを発表
MinIOは、Nvidia GPU推論向けに設計されたペタバイト級のMemKVキャッシュシステムを発表した。AIStorオブジェクトストレージ上に構築され、Nvidia STXアーキテクチャに準拠。エンドツーエンドのRDMA転送によりマイクロ秒レベルのレイテンシを実現し、128GPU構成でGPU使用率を50%から90%以上に向上、年間200万ドルの計算コスト削減を実現した。
MinIO、Nvidia GPU推論向けペタバイト級MemKVキャッシュを発表
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。