Google、AIを利用したソフトウェア脆弱性悪用の試みを阻止

グーグルは月曜日、犯罪グループが人工知能（AI）を利用して他社の未知のデジタル脆弱性を悪用しようとした試みを妨害したと発表した。これにより、政府および民間企業の間で、AIのサイバーセキュリティリスクに対する懸念が一層高まっている。グーグルは攻撃者と標的に関する詳細な情報を限定的にしか明らかにしなかったが、同社の脅威情報部門のチーフアナリスト、ジョン・ハルトクイスト氏は、これはサイバーセキュリティ専門家が長年警告してきた瞬間、すなわち悪意あるハッカーがAIを駆使して世界中のコンピュータへの侵入能力を強化する瞬間を象徴していると述べた。「それは到来した」とハルトクイスト氏は述べ、「AI駆動の脆弱性発見と悪用の時代はすでに到来している」と語った。

今回の出来事は、Anthropicが先月発表したMythosモデルを含め、AIが脆弱性を発見する能力が飛躍的に向上している時期に起きた。防御を強化しようとしている中には、ドナルド・トランプ大統領のホワイトハウスも含まれており、最も強力なAIモデルを公開前に審査する方法を変更している。民主党のジョー・バイデン前大統領による急速に発展する技術に対する規制措置を廃止するという選挙公約を実行した後、共和党政権とその同盟国は現在、政府がAI監視においてより大きな役割を果たすべきかどうかについて、複雑なシグナルを発している。

「この問題に対して規制対応を望まない人もいれば、望む人もいる」と、米国イノベーション財団の上級研究員で、以前はホワイトハウスのテクノロジーポリシーアドバイザーを務め、昨年のトランプ大統領のAI政策ロードマップの主執筆者であったディーン・ボール氏は述べた。「私は規制が好きではない」とボール氏は述べ、「規制されない方がいいと思う。しかし、このケースでは規制が必要だと思う」と語った。

グーグルは、著名な「脅威アクター」グループが、発見したバグを利用した大規模な作戦を計画しているのを観測したと述べた。その脆弱性により、彼らは二要素認証をバイパスして、人気のあるオンラインシステム管理ツールにアクセスできたが、グーグルはそのツールの名前を明らかにしなかった。同社はこれをゼロデイエクスプロイトと呼び、以前は未知のセキュリティ脆弱性を利用したサイバー攻撃であると説明した。グーグルは影響を受けた企業と法執行機関に通知し、被害が発生する前に作戦を妨害できたと述べた。しかし、ハッカーの足跡を追跡する中で、彼らが脆弱性を発見するためにAI大規模言語モデル（一般的なチャットボットを動かすのと同じ技術）を使用した証拠を発見した。

グーグルは攻撃に使用されたAIモデルを明らかにしなかったが、おそらくグーグル自身のGeminiやAnthropicのClaude Mythosではないと述べた。また、どのグループを疑っているかも明らかにしなかったが、攻撃が敵対する政府と関連している証拠はないと述べた。ただし、中国や北朝鮮に関連するグループが同様の技術を模索していると同社は述べている。ハルトクイスト氏は、通常ゆっくりと静かに活動する政府のスパイと比較して、犯罪ハッカーは、セキュリティバグの発見と武器化におけるAIの「驚異的な速度」から最も恩恵を受ける可能性があると述べた。「あなたと彼らの間には、彼らがあなたを脅迫するために必要なデータを取得したり、ランサムウェアを仕掛けたりする前に阻止するための競争がある」と彼はインタビューで述べ、「AIは大きな利点となるだろう。なぜなら彼らはより速く動けるからだ」と語った。

AnthropicのMythosはパニックと規制の呼び声を引き起こした。トランプ大統領の商務省は先週、グーグル、マイクロソフト、イーロン・マスクのxAIと、最も強力なAIモデルを公開前に評価する新たな協定を締結したと発表した。これはバイデン政権がAnthropicやChatGPTメーカーのOpenAIと以前に結んだ協定に基づくものだ。しかし、その発表は後に商務省のウェブサイトから消えた。これは、Anthropicが「異常に能力が高い」とされるハッキングとサイバーセキュリティのための新モデルMythosを発表してから1か月の間に、トランプ政権から発せられた混乱したシグナルの最新の例となった。Anthropicは「Glasswingプロジェクト」というイニシアチブを立ち上げ、アマゾン、アップル、グーグル、マイクロソフトなどのテクノロジー大手や、JPモルガン・チェースなどの他の企業を集め、新モデルが公共の安全、国家安全保障、経済に及ぼす可能性のある「深刻な」影響から世界の重要なソフトウェアを保護しようとしている。しかし、同社と米国政府との関係は、AI技術の軍事利用をめぐって国防総省やトランプ大統領自身との公的かつ法的な争いによって複雑化している。

その最大のライバルであるOpenAIも同様のモデルを導入している。同社は金曜日、ChatGPTのサイバーセキュリティ専門版をリリースすると発表した。これは「重要インフラの保護を担当する防御者」のみが利用でき、コードの脆弱性を発見して修正するのに役立つという。ボール氏は、長期的には、コーディングがますます得意になるAIツールによって、病院、学校、その他の組織を悩ませる日常的なサイバー攻撃から私たちはより安全になるとの楽観的な見方を示した。しかしその一方で、世界のコンピューティングシステムを支える「数兆行ものソフトウェアコード」が、もしAIツールが解き放たれてそのすべてのバグを悪用するならリスクにさらされると述べた。そのすべてのソフトウェアを強化するには何年もかかる可能性があり、ボール氏は米国政府の調整がそのプロセスを助けると信じている。それまでの間、ボール氏はサイバーセキュリティリスクが大幅に上昇する「移行期間」が訪れ、「世界は実際にはより危険になるかもしれない」と予測している。