AIセキュリティ市場のフィールドガイド

AIを保護するセキュリティ製品の市場は混雑しており、読み解くのは難しい。カテゴリは重複し、1つの製品が複数の役割を担っている。AI Defense Matrixを使えば、適切な質問をし、製品が何のために作られたのかを見極め、まだ製品が埋めていないギャップに人員を配置できる。

Sounil Yu氏は、一般的なセキュリティ製品市場を、通路のない乱雑なスーパーマーケットに例えている。AIセキュリティ市場も同じような店だ。製品カテゴリは重複し、ベンダーは能力ではなく野心にちなんで製品に名前を付け、同じデモが複数の売り込みを支えている。買い手は必要なものを見つけられず、売り手も自社製品の説明に苦労している。

Sounil氏と私は、AIセキュリティ市場を整理するためにAI Defense Matrix Catalogを構築した。このカタログは、8つのAIアセットクラスと6つのNIST CSF機能を掛け合わせたAI Defense Matrixの各セルに製品をマッピングする。製品がどこに集中し、どこが手薄かを示すものだ。本稿はバイヤーのためのガイドであり、AIを保護する製品を評価する際にベンダーへ問うべき質問をクラスターごとにまとめたものである。

カタログの混雑したセルには、4つの製品クラスターがある。

最大のクラスターはAIランタイムガードレールだ。これらの製品は、プロンプト、推論トラフィック、RAGコンテンツ、エージェントメモリといったランタイムAIデータを保護・監視する。モデルへの入出力をフィルタリングし、機密データを秘匿化し、ポリシー違反を検出する。このパターンはWAFやDLPでおなじみで、ほとんどの製品が保護と検出を1つにまとめている。カタログにはランタイムAIデータをカバーする製品が100以上掲載されている。Frank Wang氏はFrankly Speakingで「業界として、どのようなガードレールを適用すべきか、内部エージェントにどのレベルの自律性を与えるべきかについても、まだ完全に把握できていない」と述べている。購入時には、製品がどこでトラフィックを検査するのか、どのプロンプトやその他のデータが境界の外に出るのか、ベンダーのサービスが停止したときにAIアプリケーションはどうなるのかを尋ねてほしい。

2つ目の主要クラスターはエージェントのアイデンティティとアクセスだ。これらの製品は、AIエージェントを資格情報、権限スコープ、ライフサイクル管理を必要とする非人間主体として扱う。SailPointやSaviyntなどのアイデンティティ大手がプラットフォームを拡張し、数十のスタートアップも参入している。エージェントは、アイデンティティ管理という馴染みのある分野における新しい種類の主体である。委任チェーン（エージェントが人間に代わって、または別のエージェントを通じて行動する場合）をどう処理するか、誤動作するエージェントの資格情報をどれだけ速く失効させられるか、その際に進行中の委任がどうなるかを尋ねてほしい。

3つ目のクラスターはモデルスキャンとポスチャだ。モデルファイルの改ざんをスキャンし、敵対的脆弱性をテストし、どのモデルがどこで稼働しているかを棚卸しする。モデルを対象とした脆弱性管理とレッドチームテストと考えればよい。チームがスキャン結果を修正に結び付けられるか、スキャナがどのモデル形式とパイプラインをサポートしているかを尋ねてほしい。

4つ目のクラスターはオーケストレーションとMCPセキュリティだ。MCPサーバー、プラグイン、エージェントの足場となる仕組みを保護する。製品がエージェントとプラグインのどこまで見通せるか、何を制限できるか、エージェントがスコープの外で行動していることをどう検出するかを尋ねてほしい。

ほぼ空のセルをカバーする製品も少数ある。RespondまたはRecover機能をカバーする製品は12未満で、それらはAIインシデント対応ツールの初期のスケッチにすぎない。アイデンティティ停止によるエージェント封じ込め、機械学習の「アンラーニング」をモデル復旧と位置づけるHirundo、エージェントのアクションをロールバックするRubrik Agent Cloudなどがある。これらの機能はテクノロジーよりも人に依存している。AIインシデントの対応と復旧は、人材、プレイブック、そして既存の復旧ツールの仕事として扱うべきだ。

カタログのほとんどの製品は、本来の目的以上のセルをカバーしている。カタログのカバレッジ主張の約3分の1は「二次的」または「隣接的」で、製品の中心目的ではなくサポートする領域である。ほとんどの製品は3つ以上のセルをカバーしている。ベンダーが広範なカバレッジを売り込んできたら、製品が何のために作られたのか、後からどの機能を追加したのかを尋ね、カタログのエントリと照合してほしい。

評価チェックリストにベンダーの存続可能性も加えてほしい。カタログの製品の10分の1以上がすでに買収者に吸収されており、市場はまだ数年しか経っていない。混雑したセルでは統合が進むと予想される。支配権変更条項、データポータビリティ、別のベンダーが製品を吸収した場合の移行パスについて尋ねてほしい。

製品を評価する前に、必要なセルを決めよう。AI Defense Matrixを自社のAIセキュリティ要件と照らし合わせ、ベンダーとの会話に備えてほしい。使用するAIアセットと必要な機能を組み合わせて、最も重要なセルをリストアップする。新しい製品を評価する前に、現在稼働中の製品がそのセルをカバーしているかを確認する。混雑したセルでは、少数のベンダーを選び、自社環境で評価する。クラスター内の製品は、デモよりも運用面での差が大きい。カタログの各製品のマトリックスマッピングを確認して、議論を適切に導く。カタログで空白だが対応が必要なセルには、製品を待つのではなく、名前の付いた担当者が所有するプロセスを考案する。製品をAI導入に必要なセルにマッチさせ、残りは人とプロセスで埋める。