AIの真のボトルネックはデータ配信にある

企業がAIのスケール化を急ぐ中、パフォーマンスとROIの最大の障壁は、データを処理するハードウェアではなく、データを移動させるインフラにあるかもしれません。過去18ヶ月間、組織はGPU、大規模言語モデル（LLM）、AIツールに多額の投資を行ってきましたが、現在は実験から運用化へと焦点が移り、ROIが重要な指標となっています。2025年のIDC Spotlightレポートによると、組織は一度限りのAI導入から、本番ワークロードをサポートする再利用可能でスケーラブルなアーキテクチャへと移行しています。AIがビジネスに組み込まれるにつれ、パフォーマンス、セキュリティ、信頼性、運用の一貫性がモデルのイノベーションと同じくらい重要になっています。

しかし、ストレージとコンピュート間のデータ移動はますます複雑化しています。AI環境が分散化するにつれて、データを迅速、安全、かつ確実にコンピュートリソースに到達させることが、重要なインフラストラクチャの課題として浮上しています。これにより、CIOは「AI投資をどのように測定可能なビジネス価値に変えるか」という難しい問題に直面しています。

AIプロジェクトが期待通りの成果を出せない場合、多くのテクノロジーリーダーはより多くの計算能力が必要だと考えます。彼らはGPUを追加したり、クラスターを拡張したり、より優れたモデルを探したりします。しかし、大規模AI環境を運用するインフラチームによると、問題はしばしば別の場所にあります。GPUは計算に飢えているのではなく、データに飢えているのです。実際、高価な計算リソースは、それを供給するシステムと同じくらい効果的です。データがストレージとコンピュートの間を効率的、安全かつ一貫して移動できない場合、最も強力なGPUクラスターでさえ待機状態になります。アイドル状態のGPUはデータセンターで最も高価な資産の一つです。中断のコストも上昇しています。Uptime Instituteの年次障害分析によると、組織の半数以上が最新の大規模障害で10万ドル以上の損失を被り、5分の1は100万ドルを超えると報告しています。

水面下を見る

AIイニシアチブが停滞する理由を理解するには、従来のインフラモデルを再考する必要があります。F5のプロダクトマーケティング上級副社長Nirav Shah氏は、現代のAIインフラを氷山に例えます。水面より上には、経営陣が見えるもの、つまりLLM、AIアプリケーション、オーケストレーションフレームワーク、そしてますます高価になるGPUクラスターがあります。この可視層はほとんどの注目と投資を受けます。水面下には、それらの投資が本番環境で価値を提供するかどうかを決定するインフラ、つまりストレージ、ネットワーキング、トラフィック管理、セキュリティ制御、およびストレージとコンピュート間でデータを移動するシステムがあります。Shah氏は「誰もが目に見える10％に注目しているが、投資が実際に機能するかどうかを決定するのは残りの90％だ」と述べています。

多くの組織が真のボトルネックを発見するのはここです。最新のAIシステムは、S3互換オブジェクト環境に保存された膨大な量の非構造化データに依存しています。トレーニング、ファインチューニング、検索拡張生成（RAG）、推論ワークロードはすべて、ストレージシステムとGPU環境間の継続的なデータフローに依存しています。このパイプラインが制約されると、GPUの使用率が低下します。F5のソリューションアーキテクトMark Menger氏は「症状はコンピュートの問題のように見えるが、根本原因は多くの場合データ飢餓だ」と述べています。また、従来のエンタープライズアプリケーションとは異なり、AIワークロードは小さなインフラの弱点を増幅します。従来の環境では気付かれないかもしれないレイテンシのスパイク、スループットの低下、トラフィックの急増が、AIのパフォーマンスに大きな影響を与える可能性があります。

そのため、多くの組織はGPUを超えて、ストレージからコンピュートへの境界に焦点を当て始めています。

密結合から疎結合へ：柔軟性の向上

今日のボトルネックの多くは、AIが登場する前には理にかなっていたアーキテクチャ上の決定に遡ることができます。歴史的に、企業はアプリケーションをストレージ環境に直接接続していました。このアプローチはシンプルで効率的で管理が容易でした。しかし、AIの規模では、その単純さが負債になります。ストレージシステムは突然、ストレージ以上のものを処理することになります。つまり、暗号化接続の終端、ネットワークトラフィックの管理、セキュリティポリシーの適用、そしてますます分散化するAIワークロードからの膨大な量のリクエストの処理です。暗号化されたトランザクションはすべてCPUリソースを消費し、接続はすべてオーバーヘッドを生み出し、トラフィックのスパイクはすべて、主にデータの保存と取得のために設計されたシステムにさらなる負担をかけます。結果として、ストレージプラットフォームは、本来最適化されていない作業に忙殺されるという古典的なインフラ問題が発生します。

この課題に対処するため、多くの組織は疎結合アーキテクチャに移行しています。コンピュートをストレージに直接接続する代わりに、両者の間にアプリケーション配信コントローラ（ADC）を挿入します。インテリジェントなコントロールプレーンとして機能するADCは、TLS終端、証明書管理、トラフィック最適化、ポリシー適用、プロトコル対応のS3処理を処理するストレージの玄関口となります。ネットワーキングと暗号化機能をそれらのワークロード用に特別に設計されたインフラに移動することで、ストレージシステムは本来の役割であるデータの提供に集中できます。このアプローチは運用の柔軟性も生み出します。ストレージ環境は、アプリケーションの変更を強制することなくアップグレード、拡張、または移行できます。これはインフラチームが疎結合と呼ぶ概念です。

「線上の隆起」の再考

数十年にわたり、インフラチームはデータパス内の追加レイヤーに懐疑的でした。単純な前提は「追加コンポーネントはすべてレイテンシを増加させる」というものでした。AIインフラはその前提に挑戦しています。SecureIQLabが実施した最近の独立テストでは、エンタープライズオブジェクトストレージの前にADCを配置した場合の影響を評価しました。結果は、直接ノードアクセスと比較してスループットに意味のあるペナルティはなく、パフォーマンスは概して狭い分散範囲内にとどまりました。さらに興味深いことに、実際のネットワーク条件下では、トラフィックがコントロールレイヤーを介して管理された場合、スループットが大幅に向上することがわかりました。理由は簡単です。ADCは単にトラフィックを通過させているわけではありません。接続を最適化し、プロトコルを管理し、暗号化処理をオフロードし、リクエストをインテリジェントにルーティングしています。つまり、データパスをより効率的に動作させているのです。

データ配信がビジネス問題になるとき

AIシステムが苦戦する場合、答えは必ずしもより多くのGPUではありません。時にはより優れたエンジニアリングです。ある大規模なグローバル金融サービス組織は、KubernetesでホストされたワークロードとS3ベースのオブジェクトストレージを使用してAIインフラを拡張しようとしていました。既存の環境は共有仮想ロードバランシングに依存しており、データ量の増加に伴いパフォーマンスと信頼性の両方に課題が生じていました。同組織は追加のコンピュート容量に投資する代わりに、ストレージからコンピュートへの境界に焦点を当てました。オブジェクトストレージ環境の前に専用の物理ADCインフラを導入し、トラフィック管理とS3最適化のための集中制御ポイントを作成しました。結果は劇的でした。オブジェクトの作成、読み取り、削除の操作で少なくとも5倍の改善を達成し、場合によっては削除レイテンシが一桁以上改善されました。同様に重要なことは、新しいアーキテクチャは直接ノードアクセスと比較してパフォーマンスの低下をもたらさなかったことです。

レジリエンスの3つの次元

パフォーマンスは全体の一部にすぎません。Menger氏によると、組織は3つのレジリエンスの次元（到達可能性、ポリシー、配信）を通じてAIデータ配信アーキテクチャを評価する必要があります。到達可能性により、AIワークロードは常に健全なストレージリソースにアクセスできます。ストレージクラスターが劣化したり使用できなくなった場合でも、トラフィックは自動的にリダイレクトされ、AIアプリケーションを中断しません。ポリシーは、組織を自己誘発的な混乱から保護します。AIワークロードは、「暴徒化する群れ」シナリオ、リトライストーム、その他ストレージ環境を圧倒する可能性のあるトラフィック異常を生成する可能性があります。インテリジェントな制御レイヤーは、トラフィックを整形し、ポリシーを適用し、パフォーマンスを犠牲にすることなく一貫したセキュリティ体制を維持できます。配信は継続性に焦点を当てています。ストレージノードは障害を起こし、ハードウェアはアップグレードされ、ソフトウェアはパッチ適用されます。回復力のあるアーキテクチャは、AIクライアントをそのような変動から隔離し、バックエンドインフラが変更されても中断のないデータフローを維持します。これらの3つの機能により、基盤となる環境にストレスがかかっている場合でも、GPUの生産性を維持できます。

ADCからADSPへの進化

AI環境がより大規模で分散化するにつれ、組織はトラフィック管理だけでは不十分であることに気付きつつあります。可観測性、セキュリティ、ポリシー適用、運用の一貫性も必要です。このシフトにより、アプリケーション配信とセキュリティプラットフォーム（ADSP）への関心が高まっています。ADSPは、アプリケーション配信、トラフィックエンジニアリング、セキュリティ制御、可視性を統合プラットフォームにまとめます。Shah氏は「AIは、配信とセキュリティを別々の問題として解決するモデルを打ち破った。データがハイブリッドマルチクラウド環境全体でストレージ、コンピュート、アプリケーション間を絶えず移動する場合、同時にトラフィックを配信し保護する単一のプラットフォームが必要だ」と述べています。この傾向は、20年前のWebインフラの進化を反映しています。単純なロードバランシングから始まったものは、最終的にますます複雑化する環境を管理できる高度なアプリケーション配信プラットフォームへと進化しました。AIインフラも同様の道をたどっています。企業がハイブリッドクラウド、マルチクラウド、エッジ、オンプレミス展開に規模を拡大するにつれ、統合制御プレーンの価値が高まっています。

インフラの使命

過去2年間、AI業界はコンピュートに焦点を当ててきました。しかし、エンタープライズAIはますますデータ配信の問題になりつつあります。データがストレージとコンピュートの間を効率的に移動できなければ、モデルとGPUは価値を生み出せません。AIのROIを示すプレッシャーにさらされているCIOにとって、次のブレークスルーはより多くのGPUを購入することではなく、すでに所有しているGPUにデータを供給し続けることにあるかもしれません。