AIとサイバーセキュリティの未来：オープン性が重要な理由

AIとサイバーセキュリティの未来：オープン性が重要な理由

MythosとProject Glasswingの発表を受けて、世界中の組織がサイバーセキュリティの新時代の幕開けに取り組んでいる。この記事では、現状を分析し、オープン性の役割を議論し、サイバーセキュリティの将来をより広いAIエコシステムの中に位置づける。

Mythosとは何か？

Mythosは「フロンティアAIモデル」、すなわちソフトウェアコード（その他多くのタスク）を処理できる大規模言語モデル（LLM）である。これはLLMのコード関連性能が急上昇している一般的な傾向に沿ったものだ。特に重要なのは、Mythosが組み込まれているシステムである。モデル単独ではなく、システムによって迅速に脆弱性を発見し修正できるようになった。この区別を理解することが、現在のAIサイバーセキュリティの状況を把握する鍵となる。

Mythosが示すのは、以下のシステムレシピが強力であることだ：十分な計算能力、ソフトウェア関連データの膨大な量で学習されたモデル、脆弱性の探索と修正を処理するための足場、速度（計算能力とその背後にある資本によって可能に）、そしてある程度のシステム自律性。これらの要素が組み合わさることで、ソフトウェアの脆弱性を発見し、エクスプロイトを見つけ、パッチを構築できる。利益もリスクも、単一のモデルではなく、このレシピに含まれている。

他の組織も同様のシステムを構築できる。深いセキュリティ専門知識を備えたシステムに組み込まれた小型モデルは、より低コストで同様の結果を生み出す可能性があり、これは防御側にとって特に有望である。AIサイバーセキュリティの能力は非連続的であり、モデルサイズや一般的なベンチマーク性能に比例して滑らかに拡大しない。モデルが組み込まれるシステムが大きな影響を持つ。

Mythosが実証したのは、ソフトウェアの脆弱性を発見し対処するAIシステムを構築することが可能だということだ。これは以前から可能であり、関連作業は増加しているが、自律的に迅速に行動できるエージェント型AIの文脈で何を意味するのかを探り始めたばかりである。

オープン性が構造的優位性となる方法

脆弱性を特定する自律システムが普及するにつれて（そしてそれは避けられない）、オープンなコードとツールは競争の場を平準化するのに役立つ。ソフトウェアセキュリティは、検出、検証、調整、パッチ配布の4段階にわたる速度競争となっている。オープンエコシステムはこれらの段階をコミュニティ全体に分散させる。一方、クローズドソースプロジェクトは全4段階の知識と行動を単一のベンダーに集中させ、コードを確認・修正できる組織が1つだけという単一障害点を表す。オープン開発の分散型の性質は、そのような制約に対して堅牢であり、LinuxカーネルセキュリティチームやOpen Source Security Foundation、Hugging Faceのモデル・サプライチェーンセキュリティチームのような専門のセキュリティ担当者がいるコミュニティで特に強力である。

クローズドシステムを支持する一般的な論拠は、システムの基盤となるコードにアクセスできないプロプライエタリな曖昧さである。残念ながら、これは以前ほどの保護を提供しない。AIシステムはストリップされたバイナリのリバースエンジニアリングを支援する能力が向上しており、これはほとんどのレガシーファームウェアや組み込みコードがクローズドでバイナリのみ、しかもメンテナンスされていないという事実に関連する。それらのコードは巨大な攻撃対象領域を表しており、AIツールの改善とともに読みやすくアクセスしやすくなっている。

クローズドなコードベース内でのAIの使い方にもリスクがある。企業が誤ったインセンティブ（例えば、コード品質ではなく出荷機能の量でエンジニアを評価する）でAIコーディングツールを採用すると、AI加速開発は従来の開発よりも多くの脆弱性をプロプライエタリコードに導入する可能性がある。それらの脆弱性は、単一の組織のみが発見・修正できるクローズドコードベース内に留まり、一方でAI強化された攻撃者は外部からそれらを発見する能力を高めている。より多くの脆弱性がより迅速に、単一組織のファイアウォール内で発生するという組み合わせは、まさにオープンエコシステムが回避できる不均衡である。

これらすべての基盤には、攻撃者と防御者の間の能力非対称性がある。オープンモデルとオープンツールは、防御者に攻撃者が利用できるものと同じクラスの能力（そうでなければ少数の豊富なリソースを持つ主体に集中する）へのアクセスを提供することで、そのギャップを狭める。

オープンツールと半自律エージェントで防御を構築する

サイバーセキュリティ防御は、オープンソースとAIエージェントが協力して重要な役割を果たせる分野である。システムカードによれば、Mythosはほぼ完全な自律性で動作できるようだが、我々は制御不能のリスクからこれに反対してきた。代わりに、行動の種類が事前指定され、特定のステップで人間の承認が必要な半自律型AIエージェントは、利益とリスクのバランスが取れる。半自律システムでは、人間が制御を維持し、AIエージェントは特定のサブタスクを担当する。これは、組織が自組織内でプライベートに実行できるオープンコードを使用して、許可されるツール、スキル、システムアクセス権を指定することで実現可能である。この設定により、AIエージェントは防御的に展開され、組織自身の制御下で脆弱性を発見しパッチを支援できる。

半自律アプローチは、人間がAIエージェントの行動とその理由を実際に理解できることに依存している。それは、システムがオープンコンポーネント（オープンエージェントフレームワーク、オープンルールエンジン、監査可能な決定ログやトレースなど）上に構築されている場合、ブラックボックスである場合よりもはるかに可能である。「ヒューマン・イン・ザ・ループ」は、人間がループの中を見ることができて初めて意味を持つ。

企業はこれらの機能をゼロから構築する必要はない。脆弱性スキャナー、侵入検知システム、ログ分析器、ファジングフレームワークなど、AIエージェントと統合できるセキュリティツールの豊富なオープンソースエコシステムが存在する。

特に高リスク組織にとってなぜこれが重要なのか

高リスク組織にとって、オープンで監査可能な基盤から始めることは、セキュリティチームが単一ベンダーの主張を信頼するのではなく、監視の仕組みを実際に検査できることを意味する。これは機密データやプロセスが関与する場合、特に重要であり、機密資料は通常、外部のAIプロバイダーを通じて流れるべきではない。オープンシステムは、社内のセキュリティ専門家によって厳格に分析され、組織自身の機密データで微調整され、組織固有の監視メカニズムを生成するように変更され、完全に組織のインフラ内で実行され、すべてを適切なファイアウォールの背後に維持できる。

前進の道

攻撃者は脆弱性を利用するモデルを開発するだろう。重要な答えの一部は、透明性の高い慣行（オープンセキュリティレビュー、公開された脅威モデル、共有脆弱性データベース、どのチームでも採用できるオープンツール）に傾倒することである。各組織がプロプライエタリなツールで孤立して自らを守ろうとする代替案は、攻撃者が自らのコミュニティで調整し技術を共有している状況に対抗できない。

AIサイバーセキュリティの未来は、単一のモデルよりも、それを取り巻くエコシステムによって形作られるだろう。オープン性は、防御者に可視性、制御、コミュニティ、そして共有インフラを提供し、先手を打つことを可能にする。