サイバーセキュリティの欠如とAIガバナンス
本稿は、Mythosモデルのサイバーセキュリティ分野での画期的な能力と、それがガバナンスに与える影響を考察する。Mythosは自律的なサイバー攻撃と防御において卓越した能力を示し、多数の脆弱性を発見した一方で、AIの安全性規制に関する緊急の議論を引き起こしている。また、米国政府内部での最強AIモデルへのアクセス管理をめぐる対立や、AIによるサイバー脅威への世界的な懸念についても分析している。
現在のAI分野で最も注目すべき進展は、モデル能力の向上ではなく、サイバーセキュリティとAIガバナンスの緊張関係にある。Mythosモデルのリリースにより、米国政府は壊滅的リスクの現実性を認めざるを得なくなり、フロンティアモデルのリリースに対する規制を検討し始めた。しかし、商務省と情報機関の間で、最も強力なモデルへのアクセスを誰が管理すべきかをめぐる対立が生じている。
Mythosの能力はどの程度なのか？複数の報告によると、METR評価での50%成功率は信頼できる測定範囲を超えており、80%成功率では適度なトレンド超えの成長を示している。英国AISIの評価では、Mythos Previewの最終バージョンは初期バージョンから大幅に向上しており、こうした継続的な改善が背景で静かに進行している。Palisades Researchの自己複製ベンチマークでは、防御が弱い標的に対する攻撃でモデルが大きな飛躍を遂げており、これは現在のテストが制御下にあっても、将来的に悪意ある行為者が同様の能力を利用する可能性を示唆している。
サイバーセキュリティ分野では、Mythosは驚異的な可能性を示している。XBOWのテストによると、ソースコード監査で非常に強力であり、脆弱性検証でも良好な成績を収めたが、判断はやや保守的である。英国AISIは、Mythosが2つのエンドツーエンドサイバーレンジを完了した初めてのモデルであることを確認した。これまでどのモデルも解けなかった「Cooling Tower」も含む。AnthropicのProject Glasswingは、わずか数週間のテストで数千の高重要度脆弱性を発見し、時には1年分の発見量に相当した。Mozillaは、Mythosを使用した4月のセキュリティバグ修正数が、過去15ヶ月の合計を上回ったと報告している。
しかし、この能力は深刻な課題ももたらす。Palo Alto Networksは、Mythosが3週間で1年分のペネトレーションテストを完了したと指摘。GoogleはAIが開発したゼロデイ脆弱性を利用した攻撃を確認。国際通貨基金も警告に加わった。現在の実際の脅威は依然として従来型のデータ窃取やランサムウェアが中心だが、専門家はこれは嵐の前の静けさに過ぎないと見ている。
規制面では、ドイツがMythosへのアクセスを要求したが、米国政府は政治的な理由で妨害しているようだ。一方、OpenAIは独自のサイバーセキュリティプロジェクト「Daybreak」を発表。著者は、CAISIプログラムへの資金がわずか1500万ドルで大幅に不足しており、増額が必要だと強調する。最後に、AI能力への懐疑は本質的にディープラーニングへの方向性の誤った賭けであり、歴史的にそのような賭けは失敗してきたと結論づけている。