サイバーセキュリティにおけるAIの非対称な未来

サイバーセキュリティには常に興味深い特性がある。同じ知識がシステムを保護することも、侵害することもできるのだ。概念実証のエクスプロイトは、ベンダーが脆弱性を再現してパッチを適用するのに役立つ一方で、ユーザーがシステムを更新する前に攻撃者がそれを武器化するのにも役立つ。これらは新しいことではないが、変化しているのは、これらの行動が発生する速度、規模、およびアクセスのしやすさである。

本記事ではまず、AIエージェントの概念を明確にする。それは単なる自動化ツールではなく、タスクを推論し、ツールを操作し、目標に向けて複数ステップの行動を実行できるシステムである。現在、AIエージェントは完全に自律的なエンドツーエンドのサイバー攻撃を実行できるわけではないが、コード脆弱性検出などの分野で急速に進歩している。

意図の識別はAIセキュリティの核心的な課題である。言語モデルの出力は入力表現に依存し、同じ技術的リクエストが合法的か悪意があるかは文脈次第である。この問題に対処するため、モデルは安全性アラインメント、RLHF、実行時監視などの手法を採用しているが、これらのメカニズムにはバランスの問題がある。厳しすぎると正当な利用を制限し、緩すぎると攻撃の敷居を下げる。そのため、AnthropicのClaude MythosやOpenAIのGPT-Cyberなどの新しいモデルでは、管理されたアクセスや信頼できるアクセスの仕組みが導入されている。これは一部でマーケティング手法と批判されることもあるが、安全性と開放性のジレンマに対する業界の認識を示している。

ローカルモデルは将来のAIセキュリティの鍵となるだろう。クラウドモデルはアクセス制御で悪用を制限できるが、オープンソースモデルの普及により集中管理は困難になりつつある。ただし、現時点で最先端の性能を持つモデルは128GB以上のRAMなど、相当なハードウェアリソースを必要とするため、完全な分散化は限定的である。政府は高性能なオープンウェイトモデルに規制を試みるかもしれないが、こうした禁止措置は完全には実行できないことが多い。

攻撃者と防御者の間には根本的な非対称性が存在する。防御側の自動化の失敗コストは極めて高いが、攻撃側は多くの失敗を許容できる。例えば、防御システムが誤って本番インフラを隔離すると重大な結果を招くが、攻撃者は別の方法を試せばよい。この非対称性は、軍事分野における安価なドローンと高価な防空システムの対立に類似している。サイバーセキュリティでは、攻撃者は多数の低コストエージェントで防御を圧倒する可能性がある。

この状況に対し、防御者は完全な自動化を盲目的に追求すべきではない。現時点では、タスクの充実化、補助的な自動化、優先順位付けに注力する方が効果的だ。例えば、AIを利用したアラートのトリアージ、脆弱性の優先順位付け、脅威インテリジェンスの要約などは、完全な制御を譲らずに効率を向上させる。コード監査も有望な分野であり、AIは多数の脆弱性を発見できるが、誤検出を避けるために人間のレビューが必要である。さらに重要なのは、コード作成段階でAIがセキュリティ問題を検出・修正することで、脆弱性の発生源を減らせる点だ。

結論として、サイバーセキュリティにおけるAIの未来は非対称性に満ちている。防御者は自動化を合理的に捉え、最大の利益をもたらす領域にリソースを集中すべきであり、同時にデータの質がAIシステムの有効性の基礎であることを認識する必要がある。