KubeCon + CloudNativeConにおいて、NVIDIAはオープンソースへのコミットメントを一段と深める複数の発表を行った。数千のAIファクトリーでアプリケーションの実行を管理するKubernetesはAIの基盤となっており、その需要は増大し続けている。こうした要求に応えるため、NVIDIAは自律エージェントのセキュリティとガバナンスのためのランタイムであるOpenShellを、Cloud Native Computing Foundation(CNCF)に寄贈することを明らかにした。CNCFはLinux Foundationの一部であり、KubeConの主催団体でもある。OpenShellはCNCFサンドボックスプロジェクトとして、製品に組み込む組織によってガバナンスされ、世界中のセキュリティ専門家の知見によって強化される。
OpenShellは、AIエージェントが実行できる内容を組織が制御できるようにする。エージェントの活動に決定論的な制御を適用し、チームがツールの使用、推論サービスのアクセス、ワークロードの実行に対してポリシーを適用できる。拡張可能なアーキテクチャにより、独自のコンピューティング、推論プロバイダー、資格情報ストレージ、監視ツールを接続できるため、既存の企業システムと統合しつつ、さまざまな展開環境でガバナンスを適用できる。Linux FoundationのCEO、Jim Zemlin氏は、クラウドネイティブコミュニティの新たなインフラ課題はエージェントに安全な運用環境を提供することであり、NVIDIAの貢献は開発者に共通基盤とエージェントセキュリティの進化を形作る機会を与えると述べている。OpenShellはすでに数百の組織で利用され、ローンチから1年足らずで数万件の貢献を受けているという。
エージェントのガバナンスは課題の一部に過ぎず、組織はそれらを大規模に展開する必要がある。NVIDIAは、Googleが発案しCNCFサンドボックスに受け入れられたAgent Substrateプロジェクトに参加し、モデル推論のNVIDIA Dynamoや共有クラスタリソース割り当てのKAI Schedulerとの連携を確保している。Agent Substrateはタスク間でエージェント環境を保持しつつ、エージェントがアイドル状態のときにはコンピューティングを解放する。共有エージェントプール全体で環境を一時停止および再開することで、セッションごとに専用コンピューティングを稼働させ続けることなく、エージェントワークロードを拡張できる。NVIDIAとGoogleはさらに、OpenShellとAgent Substrateの統合に協力し、企業がクラウドおよびオンプレミスシステム全体でエージェントを安全に管理できるようにする。
AIファクトリーは、インフラ、ソフトウェア、顧客体験の制御を維持しながら、顧客にマネージドKubernetesサービスを提供する必要がある。NVIDIAは、NVIDIA DSX AI Factory Platformの3つの新しいオープンソースプロジェクトを発表した。NVIDIA Kubernetes Engine(NVKE)とNVIDIA Kubernetes Recipes(NVKR)はパブリックプレビューで利用可能になり、GPUインフラ上でマネージドKubernetesサービスを提供するためのオープンソースのビルディングブロックを提供する。クラスタのライフサイクル管理を自動化し、署名済みでバージョン固定されたイメージを提供する。Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster、さらにFirmusやSK TelecomなどのエコシステムパートナーがNVIDIAとの統合計画に合意している。
NVIDIA Snapshotは、推論容量を迅速に追加する課題に対処する。モデルのロードとワークロードのウォームアップはスケーリングと復旧を遅らせる。このオープンソースのモジュール式コンポーネントは、モデルの再ロードやウォームアップなしで、チェックポイントされたレプリカを数秒で復元し、Kubernetes上の推論およびエージェントワークロードの迅速な起動、復旧、弾力性を支援する。設計パートナーのCrusoeとSaturn Cloudは、NVIDIA HGX B300システム上でSnapshotを評価した。CrusoeはGLM-5.3をテストし、ワークロードが準備完了となる時間を約8分から31秒に短縮した。Saturn CloudはvLLMのゼロスケール推論のベンチマークで、起動時間を2〜8.5分から6〜34秒に短縮した。これらの進展は、Kubernetesを大規模AIワークロードの主要な基盤とし、開発者がより安全で効率的なAIインフラを構築できるようにするものである。