Anthropic、Claude Mythos Previewが開発者の修正速度を上回るバグ発見と警告
AnthropicのAIモデル「Claude Mythos Preview」は、Project Glasswingの一環として約50のパートナーと協力し、システムクリティカルなソフトウェアで1万件以上の重大な脆弱性を発見しました。バグは誰も修正できない速さで積み上がっています。Anthropicはこれにより高リスクの移行期間が生じると警告し、自社を含めいかなる企業もこれらのモデルの悪用を防ぐための十分な安全対策を構築していないと述べています。
Anthropicは本日、高度なAIモデル「Claude Mythos Preview」がProject Glasswingにおいて約50のパートナーと協力し、システムクリティカルなソフトウェア（OSカーネル、ネットワーク基盤、重要アプリケーションなど）で1万件を超える重大な脆弱性を発見したと警告を発しました。問題は、脆弱性の発見速度が開発者による修正速度を大幅に上回っており、脆弱性が蓄積され続けていることです。Anthropicはこの状況が高リスクの移行期間を生み出すと指摘し、悪意ある行為者がこれらの脆弱性を悪用する可能性があると懸念しています。同社は、自社を含め、いかなる組織もAIモデルの悪用を防ぐための十分な安全対策を構築できていないと認めており、AIを活用した脆弱性発見の分野における転換点であると同時に、AIセキュリティガバナンスの強化が急務であることを浮き彫りにしています。