Anthropic、Claude Mythos AIツールへの不正アクセス疑惑を調査

Anthropicは、一部のユーザーが同社のClaude Mythosモデルに不正アクセスしたという申し立てを調査している。このモデルは、同AI企業が公にリリースするには強力すぎると言うサイバーセキュリティツールである。同社は声明で、「第三者ベンダー環境の1つを通じてClaude Mythosプレビューへの不正アクセスがあったという報告を調査している」と述べた。

これは、プライベートフォーラムのユーザーが通常の許可なしにモデルにアクセスできたとするブルームバーグの報道を受けたものだ。Mythosの能力については深い不安があるが、英国の最高サイバー責任者は、適切に保護されれば高度なAIツールは「純粋にプラス」になる可能性があると述べている。

現時点では悪意ある行為者がモデルを入手したことを示すものはなく、Anthropicは自社のシステムが影響を受けたという証拠はないとしている。しかし、許可されていないユーザーによるアクセスの報告は、大手AI企業が高度なAIモデルを悪意ある者の手に渡らないようにする能力に疑問を投げかけている。サイバーセキュリティ企業Smarttech247のCEO、Raluca Saceanu氏は、これは「古典的なハッキングというよりも、アクセス権限の悪用である可能性が高い」と述べた。

Anthropicは、脆弱性を悪用する能力があるとされるMythosモデルを一部のテクノロジー企業や金融機関に提供し、システムの保護を支援している。しかし、それはそれらの企業が自社のアクセスを厳格に管理することに依存している。

ブルームバーグによると、そのユーザーは以前に第三者請負業者の仕事を通じてAnthropicのAIモデルを閲覧する許可を得ていた。また、同報道は、このグループがアクセスを得て以来、モデルを使用しているが、検出を避けるためハッキングには使用していないと報じている。

Saceanu氏は、「強力なAIツールが意図された管理外でアクセスまたは使用されると、リスクは単なるセキュリティインシデントではなく、詐欺、サイバー悪用、またはその他の悪意ある活動に使用される可能性のある能力の拡散である」と述べた。

水曜日に開催された大規模なサイバーセキュリティ会議で、英国国家サイバーセキュリティセンター（NCSC）の長官は、AIツールが物事をより安全で確実にできると主張し、より前向きな見方を示した。Richard Horne氏はCyberUKの参加者に対し、新たなAI攻撃を恐れるのではなく、サイバーセキュリティの基本を正しく行うことに注力するよう促した。

「ここ数日のメディアで見たように、フロンティアAIは既存の脆弱性の大規模な発見と悪用を急速に可能にしており、サイバーセキュリティの基礎がまだ対処されるべき領域をどれだけ急速に露呈するかを示している」と同氏は述べた。

Horne氏の警告は、システムソフトウェアの更新やレガシーITのアップグレードの緊急性など、近年の同様のメッセージを反映している。同じイベントで、Dan Jarvis安全保障大臣はAI企業に対し、重要ネットワークを攻撃者から保護するためにAIを使用するという「世代を超えた取り組み」で政府と協力するよう求めた。

最も強力で先進的なAIモデル（フロンティアAIとして知られる）はすべて英国外で開発されており、トップ企業は米国または中国に拠点を置いている。これは、英国がMythosへのアクセスをAnthropicのような企業に依存しており、その構築、訓練、リリースの方法を制御できないことを意味する。OpenAIにも非常に有能だと呼ばれるサイバーセキュリティモデル「GPT 5.4 Cyber」がある。

CyberUKでの講演では、特にロシアや中国からの国家主体やハクティビスト攻撃の継続的な脅威も強調された。NCSCは、イラン攻撃などの最近の出来事が、現代のあらゆる紛争でサイバーがますます重要な役割を果たしていることを示しており、今やサイバーは英国の防衛の「最前線」であると警告している。

ホワイトハウスとAnthropicは、Mythosモデルをめぐる懸念について「生産的な」会合を開いた。