エンタープライズAIのデータファースト・セキュリティ戦略

エンタープライズAIの約束は、モデルやエージェントが機密データにアクセスする速度が、組織がそのアクセスを監視、統制、説明する能力を上回る現実に直面している。このギャップにより、リーダーはコンプライアンスを証明し、エクスポージャーを抑制し、AIがデータをどのように使用しているかを説明できなくなっている。

スタンフォードHAIの報告によると、88%の組織が何らかのビジネス機能でAIを利用しており、文書化されたAIインシデントは2024年の233件から2025年には362件に急増した。米国政府説明責任局（GAO）は、金融サービスにおけるAIの利用がデータ品質、プライバシー、サイバーセキュリティのリスクをもたらし、規制当局が積極的に調査していると指摘している。

クラウドセキュリティアライアンス（CSA）の報告では、非構造化データの全容を把握している組織はわずか35%であり、リアルタイムスキャン機能を持つのは9%に過ぎず、23%はリスクスキャンをまったく実行できない。これらの構造的制約は、AIシステムのパフォーマンスを制限する。

EmerjのYolandi de Weerdtは、Securitiの製品マーケティングディレクターChris Joynt、Google CloudのAIスペシャリストJames Dean、Securitiの地域営業担当副社長Mark Crean、Citiのデータ分析担当副社長Oscar Rodriguez博士、VeeamのSecuriti AIセールスエンジニアリングチーム担当副社長Todd Vancilを招き、対談を実施した。本稿では、金融サービスにおける安全でスケーラブルなAIに必要なデータ、ガバナンス、セキュリティ要件を定義する4つの洞察を概説する。

機密データフローのリアルタイムマッピングとプレインジェスト制御

Chris Joynt氏は、多くの企業のデータ資産において、非構造化コンテンツが従来のガバナンス手法の検査範囲を超えて拡大していると指摘する。顧客は20万以上のデータシステムを運用し、数十億のファイルを生成し、1日あたりペタバイト規模のログを生成している。この規模では、ファイルにどのような機密情報が存在するかを特定すること自体が構造的な課題となり、その課題はモデル構築や評価の前に現れる。

Joynt氏の中心的な主張は、非構造化データがインジェスト、変換、ベクトル化されると、組織はその使用状況を実質的に把握できなくなるということだ。元の形式は不明瞭になり、派生物が増殖し、ガバナンスチームは機密情報がどのようにAIシステムに到達したかを確実に追跡できなくなる。プレインジェストの可視性こそが、制御を発揮できる唯一の場所となる。

「非構造化データは一夜で金脈となりました。機関は膨大な量のデータを生成し、ログだけで1日ペタバイトに達することもあります。そのデータをAIに放り込んで、モデルがうまく処理してくれると期待するわけにはいきません。ファイルに何が含まれているか、その機密性の程度、データの移動先を把握する必要があります。データがモデル内部に入ってしまえば、制御は失われます。データフローの可視性が安全性の第一層です。」

——Chris Joynt, Securiti製品マーケティングディレクター

Joynt氏は経営幹部向けに、プレインジェストのフレームワークを提示している。機密データフローのマッピング、非構造化コンテンツの分類とラベル付け、AIアクセス境界の定義、変換と派生パスの監視、シャドーAIの検出である。

Joynt氏の結論は構造的である。プレインジェストの可視性はAIガバナンスの基盤である。機密データがモデルに入ると、その変換や派生物の追跡は困難になり、制御は予防的ではなく事後的になる。上流でのフローのマッピング、コンテンツの分類、境界の定義により、リーダーはAIを安全にスケールさせるために必要な事実上のベースラインを得ることができる。

セキュリティ、データ、ビジネスチームを横断する統一ガバナンス

Mark Crean氏とJames Dean氏はともに、セキュリティ、データ、ビジネスチームがAI対応データの定義を異にしているために、金融サービスにおけるAIのスケーリングが停滞していると指摘する。この断片化により、パイロットプロジェクトはイノベーションラボに閉じ込められ、価値の高いユースケースは本番環境に移行できない。生産性ツールやコーディングアシスタントは急速に進むが、エンタープライズレベルのAIはそうではない。ガバナンスが統一されていないからだ。

James Dean氏は運用上のギャップを強調する。概念実証後の展開は、機関がペタバイト規模の機密データを保護できず、サイロ化したデータセットを調整できない場合に失敗する。彼の推定では、銀行の半数は依然としてデータを分離されたシステムに保持しており、モデルやエージェントがコンプライアンスに準拠した承認済み情報にアクセスするのを妨げている。Crean氏は、たとえ社内でAIが普及しても、組織はアクセス権、コンテキスト、ロールバックに関する共通のガードレールを欠いており、チームは安全にAIを採用する方法が分からないと付け加える。

「ステークホルダーの調整は常に最初のステップです。モデルとエージェントが急増するにつれて、ユーザーがこれらのツールを安全に採用できるようにするために、どのようなガードレールと制御を導入していますか？どのデータセキュリティプラクティスがデータの整合性を信頼できるものにしていますか？」

——Mark Crean, Securiti地域営業担当副社長

「まず、CISO、データサイエンティスト、ビジネスリーダーがAI対応データの共通定義について合意することから始めます。その後、ガバナンスをすべてのフェーズにマッピングし、トレーニングやクラウド移行の前にデータ分類を自動化します。」

——James Dean, Google Cloud AIスペシャリスト

彼らが提示する統一ガバナンスの仕組みの要素は次のとおりである。機能横断的なAI対応データの定義、トレーニング前の自動分類、モデル運用へのアクセス制御の埋め込み、エージェント採用のためのガードレールの確立、コンプライアンス準備との統合。これにより、モデルとエージェントはコンプライアンスに準拠した承認情報のみを操作し、金融機関はセキュリティ、コンプライアンス、データの整合性を損なうことなく、パイロットからエンタープライズ規模のAI展開へと移行できる。

開発前の説明責任フレームワーク

Oscar Rodriguez博士は、金融機関内のAIプロジェクトはスケールすべき時にしばしば崩壊する原因は単純だと指摘する。チームは結果の所有者を決める前に構築を始める。説明責任が定義されていないと、ガバナンスは混乱し、その混乱はモデルがすでに存在した後に始まり、その時点でモデルの前提、データ、リスク態勢を形成するには遅すぎる。

Rodriguez氏はこれを繰り返し目撃している。ビジネス部門は実験に走り、データチームは互いに接続されていないソースから作業し、セキュリティとコンプライアンスは後から到着し、リーダーシップは将来のリスクに焦点を当てる一方でチームは価値の証明に集中する。結果は技術的な失敗ではなく、組織のミスアラインメントである。モデルは初期テストで有望性を示すが、誰も標準、所有権、ガバナンスに事前に合意していなかったために、精査の下で停滞する。

開発前の説明責任フレームワークはそれを防ぐ。核となるのは、誰が成功を定義するか、誰がデータを承認するか、誰がリスクを監視するか、誰が結果に責任を持つかを明確にすることである。これらの答えはコーディングが始まる前に確立されなければならない。フレームワークには、AI決定の明確な所有者の設定、データ権限とアクセス権の定義、リスクとコンプライアンス承認プロセスの確立、継続的な監視と監査メカニズムの作成が含まれる。説明責任が開発に先行するとき、ガバナンスは基礎となり、後付けではなくなる。AIプロジェクトは確実にスケールできる。

AIインジェストと検索のためのデータレベルセキュリティ制御

Todd Vancil氏は、データレベルのセキュリティ制御がAIセキュリティの基盤であると強調する。AIシステムが内部データに直接アクセスするシナリオでは、従来の境界セキュリティでは不十分である。送信元で機密データを制限し、サニタイズし、AIシステムが承認された情報のみにアクセスできるようにし、侵害が発生した場合に即座に封じ込める必要がある。具体的な対策には、属性ベースのアクセス制御、検索結果のリアルタイムフィルタリング、暗号化とトークン化の組み合わせが含まれる。

Vancil氏は、AIエージェントが自律的にタスクを実行するにつれて、各エージェントが最小限の権限を持ち、すべてのデータアクセスが監査可能で取り消し可能でなければならないと指摘する。データレベルの制御により、組織は問題が拡散する前に悪意のあるまたは誤ったデータフローを遮断でき、事後的なクリーンアップではなく予防的な対応が可能になる。

結論として、エンタープライズAIのセキュリティは単一の技術やチームに依存できない。プレインジェストの可視性から統一ガバナンス、開発前の説明責任、データレベルの制御に至るまで、フルスタックのアプローチが必要である。これらのセキュリティ戦略がデータ中心である場合にのみ、AIの約束は信頼性、コンプライアンス、スケーラビリティをもって実現できる。