企業のCISOは、AIを搭載したセキュリティ製品の購入を迫られている。しかしベンダーが自社製品をこぞって「AI」として売り込む今、リスクを減らすツールとコストを増やすだけのツールを見分けるのは難しい。さらに、弱いアクセス制御、分類が不十分なデータ、可視性の低いネットワークの上にAIを載せれば、そうした穴はむしろ拡大しかねない。
調査結果はこの不均衡を裏づけている。世界経済フォーラムの調査では、約3分の1の組織がAIツールを導入する前に安全性を評価するプロセスを持たない一方、87%のリーダーがAI関連の脆弱性を最も急速に伸びるサイバーリスクと見ている。米国国立標準技術研究所（NIST）は、サードパーティの生成AIツールがアクセス可能なデータやシステムに応じてプライバシーと情報セキュリティのリスクをもたらすと指摘する。クラウドセキュリティアライアンス（CSA）の調査では、53%の組織がAIエージェントに想定以上の権限を与えてしまった経験を持ち、47%がこの1年にAIエージェントが関わるインシデントを経験している。ISACAの報告によれば、デジタルトラストを担う専門家の56%は、インシデント発生時にAIシステムをどれだけ速く停止できるかを把握していない。
これらの数字が示すのは、多くのセキュリティリーダーが、購入するものを評価し、そのアクセス範囲を制御する速度を超えてAIを導入しているという現実だ。
Emerjのポッドキャスト「AI in Business」で、ホストのYolandi de Weerdt氏はAcademy Sports + OutdoorsのCISO、Mark Alvarado氏を迎え、本当のAI価値とベンダーの主張をどう切り分けるか、またAIがID管理、データガバナンス、ネットワークセキュリティ、従業員のテクノロジー活用における既存の弱点をどう増幅しうるかを掘り下げた。以下は、セキュリティプログラムにおけるAIの位置づけを判断するリーダー向けの三つの示唆である。
第一に、問題主導の評価によって不要なAI露出を避けること。ベンダーは「AIで脅威をより速く特定できる」と主張するかもしれないが、その主張だけでは、その製品が特定のセキュリティ環境に適しているかは分からない。Alvarado氏は、ベンダーが企業のシステムや運用実態を買い手以上に理解することはあり得ないとし、自社のニーズを理解し適切な問いを立てる責任は買い手側にあると述べる。この規律の原点は、同氏のビジネス分析の経験にある。ある部門が解決策を求めてきたとき、同氏はまず現行のワークフロー、あるべき姿、技術要件を文書化し、そのうえで選択肢を調べ、ステークホルダーの合意を得た。セキュリティ投資にも同じ順序を当てはめる。問題定義を書き、候補となる解決策とその真の総所有コストを洗い出し、それをプロジェクト憲章の土台にする。AIが関与するかどうかにかかわらず、この作業が同氏を購入に踏み切らせるか、予算を求める前に断念させるかの分かれ目になるという。
またAlvarado氏は、購入検討の中で「AI」という言葉の定義を共有しておくよう勧める。買い手と売り手が同じ言葉で別の機能を指している可能性があるからだ。技術、財務、法務の話に入る前に、双方が同じ意味で使っていることを確認すべきだとした。
従業員の行動も、もう一つの準備度テストになる。同氏は、従業員に対しAIをいつ使うべきか、いつ使うべきでないか、そして使う前に何を問うべきかを明示するAIガバナンスの仕組みを勧める。問うべきは、何を達成したいのか、データはどう扱われるのか、ツールはオープンかクローズドか、接続は一方向か双方向か、という点だ。従業員の賛同がなければ、人は管理をすり抜ける道を必ず見つけると同氏は警告する。鍵の比喩も示した。家にどんなに頑丈な鍵をかけても、家の中の誰かが扉を開け放したり、鍵を外したりこじ開けたりすれば、鍵の値段は関係なく、誰かは必ず入ってくる、というのである。
第二に、ID、データ、ネットワークの可視性を導入の土台とすること。Alvarado氏の見方では、セキュリティプログラムがそもそも「きちんと固まっていない」状態なら、AIは「プログラムを指数関数的に悪化させただけ」だという。出発点は、会社がどう構成され、重要データがどこにあり、本当の境界がどこにあるかを把握し、そこから逆算することにある。
そのうえで同氏は、AI導入前に優先すべき三つの土台を挙げる。これらは最初から完璧である必要はなく、「ぎちぎちに固める」こと自体がコストを伴う旅だと同氏は言う。IDは「誰、あるいは何が行動するのか」に答える。システム同士の通信はユーザーIDなしには成立せず、AIはしばしば特定のIDを使ってそれを行うため、チームはどのアカウントが使われるかを把握し、そのIDを素早く無効化できる必要がある。データは「どんな情報が懸かっているのか」に答える。重要データは規制当局との問題に発展しうるが、一般データはそうとは限らない。データの所在と分類を知ることで、チームは静観すべきかエスカレーションすべきかを判断できる。ネットワークは「データはどこへ流れうるのか」に答える。転送中のデータを見て、悪意あるペイロードを検査し、問題が起きたらできるだけ速く接続を遮断できるようにしなければならない。
同氏はサイバーセキュリティの他の領域を軽んじるつもりはない。しかし、より多くの企業がクラウドへ移行し、攻撃の量と sophistication が増すなかで、AIが依存するのはこの三領域であり、組織が「AIでAIと戦う」ための基盤だと見ている。ここが固まっていれば、AIベースのツールを使うチームには勝ち目があると同氏は述べる。
第三に、対応しきい値を実質的なビジネスリスクに結びつけること。ID、データ、ネットワークの活動が見えるようになると、Alvarado氏は、確立されたパターンからの逸脱を大量の活動からAIで分析することに価値を見いだす。同氏はネットワークを道路、デバイスを車、IDを運転者、認証情報を鍵に例える。経路、目的地、デバイス、アクセスされたデータの予期せぬ変化は、正規の利用者以外がアカウントを操作している可能性を示す。大半の人は習慣の生き物であるため、システムはあるIDの平常時の活動を基準化し、逸脱をレビュー用に浮かび上がらせることができる。ただし逸脱そのものは悪意の証拠ではなく、ビジネス上の必要性が変わることもある。
Alvarado氏は、利用者に異常な活動の確認を求めることと、IDを無効化したりネットワーク接続を切ったりして「鍵」を取り上げることとを区別する。パターンの違いが大きすぎる、あるいは行為が悪質すぎて、組織が判断を誤る余裕を持てない場合、同氏はまず行動し、調査は後回しにする。この判断を、CISOが実際に負う責任に照らして説明する。CISOの仕事は起きるすべての些細なことを止めることではない、止めることはできるがコストが伴う。仕事は、その事象を実質的なものにしないことだ、と述べる。実質性のしきい値は企業ごとに異なり、各社が自ら定めるべきものであり、それが資金を有効に使う方法になる。プログラムにはコストがかかるからだ。
同氏は、実質性のしきい値は企業ごとに異なり、各組織が自分たちの基準を決めるべきだと補足する。また、調査が終わる前に行動することのコストも認める。誤検知は正当な業務を妨げうる。そうなった場合は「車を道路に戻す」だけであり、同氏の経験では慎重側に倒れて怒る人はいないという。AIベースのツールは多少高くつくが、三つの土台が整っていればそのコストは正当化されると述べる。これらの点を合わせると、Alvarado氏の中心的な主張が見えてくる。明確に定義されたビジネス課題から始め、AIが生み出すシグナルを防御可能なセキュリティ判断へと変える管理策を築くこと。それが成熟したプログラムの条件なのである。