エンタープライズAIが失敗し続ける理由、それはモデルのせいではない

エンタープライズリーダーは過去2年間にAIに数千億ドルを投じてきましたが、その成果はまちまちです。マッキンゼーの2024年グローバル調査によると、AI投資から有意義で持続的なビジネス価値を生み出していると報告する企業は3社に1社未満です。デモは印象的ですが、本番環境では失望することが多いのが現状です。最もよく聞かれる診断は、モデルが十分でない、データインフラが未熟である、従業員のトレーニングが不足している、というものですが、これは大方間違っているか、少なくとも不十分です。本当の問題はコンテキスト、具体的にはAIとデータの間に位置する耐久性のある動的なエンタープライズコンテキスト層の欠如にあります。組織がその意味を理解し、それに従って構築するまで、モデルのアップグレードやインフラ投資はギャップを埋めることはできません。

コンテキストギャップ：すべてのエンタープライズAIシステムは、人間の質問を機械実行可能なタスクに変換することで動作します。その変換を正確に行うには、システムがビジネス、データの意味、指標の定義、適用されるビジネスルール、それらのルールが時間とともにどのように進化してきたかを理解する必要があります。これがコンテキストです。ほとんどのエンタープライズデプロイメントでは、コンテキストは存在しないか、不完全であるか、誰も追跡できない速度で劣化しています。例えば、あるグローバル2000企業が財務分析用AIシステムをデプロイしたとします。システムはデータウェアハウスにアクセスしクエリを実行できます。しかし、企業間取引、地域コスト配分、過去2回の買収で作成された例外を考慮した上で、事業部門間の粗利益率を正確に計算できるでしょうか？これらのルールは、少数のシニア財務アナリストの頭の中、スプレッドシート、3年前のSlackスレッド、文書化されていない機関記憶に存在します。それらのアナリストが異動や退職をすると知識は失われ、AIシステムはそのコンテキストを欠き、正確だが間違った答えを生成し始めます。これはデータ品質の問題ではなく、コンテキストの問題であり、業界を問わず発生します。

リーダーが誤解している4つの次元：1. コンテキストは自己学習型でなければならない。最も一般的な間違いは、コンテキストを一度きりの実装として扱うことです。組織は初期のコンテキストキャプチャに多大な投資をし、メタデータのタグ付け、ビジネス定義の文書化、承認済みクエリのカタログ化を行いますが、その後は完成品として扱います。しかしコンテキストは継続的かつ目に見えない形で劣化します。スキーマ変更、データドリフト、ビジネス指標の再定義、ビジネスプロセスの再編成。コンテキスト層が人間のメンテナンスに依存する場合、人間がボトルネックとなり常に遅れを取ります。効果的なコンテキストエンジンは、使用パターン、検証済み回答、人間の修正から継続的に学習し、劣化ではなく改善する必要があります。2. コンテキストは多次元であり、一箇所で捉えることはできない。エンタープライズ知識は単一システムに存在せず、スキーマ、検証済みアナリストクエリのロジック、公式・非公式ドキュメント、セマンティック・メタデータ層、そして人の頭の中の暗黙知に同時に存在します。ほとんどの組織が犯す間違いは、メタデータカタログやセマンティック層などの単一のコンテキスト源を追求し、それに全負荷を負わせることです。しかし単一層では不十分です。効果的なコンテキスト層はこれらの次元すべてを横断し、それぞれが独立して進化する中で一貫性を維持する必要があります。3. コンテキスト層は、基盤となるデータプラットフォームからアーキテクチャ的に独立していなければならない。これが最も重要なアーキテクチャ上の決定ですが、ほとんどの組織は真剣に扱っていません。コンテキストが特定のプラットフォーム内に構築されると、そのプラットフォームの独自構造やAPIに絡め取られます。コンテキスト層はデータ組織が生み出す最も価値のある知的資産であり、長年のビジネスロジック、検証済みクエリ、機関知識をエンコードします。その資産がプラットフォーム依存である場合、組織はアーキテクチャの柔軟性と交渉力を失います。さらに、ほとんどの企業のデータは複数プラットフォームに分散しています。Snowflake、Databricks、Salesforce、SAP、そしてレガシーシステム。これらすべてにまたがるコンテキストには抽象化が必要です。4. すべてのAIエージェントはコンテキスト問題を継承し、それを悪化させる。企業がコパイロットやチャットボットから自律型エージェントに移行するにつれ、この次元は緊急性を増しています。コパイロットでは人間がループ内にいて、アナリストが回答を読み、判断し、エラーを修正します。自律型エージェントはその人間によるチェックポイントなしに動作し、自律的に、大規模に、連続的にクエリを実行し、データを合成し、レポートを生成し、下流のワークフローをトリガーします。この自律性が価値提案であり、同時にコンテキスト層の品質が交渉の余地なく重要になる理由でもあります。不正確なコンテキストで動作するエージェントは、誰かが問題に気づく前に、エラーを数十の下流システムと意思決定に伝播させます。

投資判断のフレームワーク：上級リーダーはAI投資を評価する際、4つの質問を直接問うべきです。システムは学習するか、それとも手動メンテナンスが必要か？コンテキストは何次元を捉えているか？コンテキストは移植可能か？エージェントのガバナンスモデルは何か？成功しているエンタープライズAI導入のパターンは一貫しています。持続的価値を生み出している組織は、必ずしも最大のモデルや最多のデータを持つ組織ではなく、生きた多次元でプラットフォーム独立なコンテキスト層に投資し、それを実装の詳細ではなく戦略的資産として扱っている組織です。これを認識した組織は複合的な優位性を築き、脚注として扱い続ける組織は、デモでは印象的だが本番では失望するパイロットの高価な繰り返しに陥るでしょう。

著者について：Soham Mazumdarは連続起業家でありテクノロジーリーダーで、現在WisdomAIの共同設立者兼CEO。同社は自然言語でデータをクエリできるAI搭載データインサイトプラットフォームを提供。以前はRubrikを共同設立し、チーフアーキテクトとしてIPOに導いた。またTagtile（Facebookに買収）を共同設立し、Googleでコア検索インフラを率いた。