本文にスキップ
AI News HubLIVE
その他
要約のみ

Upbound、推論クラスターを最適化するModelplaneをオープンソース化

Upbound Inc.は本日、AI推論クラスターを管理するための新しいオープンソースツールModelplaneをリリースしました。同社のCrossplaneプロジェクトを基盤とし、マルチクラウドでの推論ワークロードの分散を簡素化し、リソースを自動スケールし、分散キャッシュでレイテンシを削減します。

ソースSiliconANGLE AI著者: Maria Deutscher
Upbound、推論クラスターを最適化するModelplaneをオープンソース化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • UpboundがAI推論クラスター管理のためのオープンソースツールModelplaneをリリース。
  • ModelplaneはCrossplaneに基づき、複数のクラウド間で推論ワークロードを調整可能。
  • 分散キャッシュ機能により、モデル重みの読み込み遅延を低減。
  • ゲートウェイコンポーネントでセキュリティとコスト効率を確保し、ディザスタリカバリをサポート。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

Upbound、推論クラスターを最適化するModelplaneをオープンソース化 | AI News Hub