米国、Anthropicに対し全外国人のAIモデル利用を禁止命令

AI企業Anthropicは金曜日、米国政府から、最新の最先端ソフトウェアであるFable 5およびMythos 5への全外国人のアクセスを遮断するよう命令を受けたと発表しました。同社のブログによると、政府機関は国家安全保障上の懸念を理由に指示を出しましたが、具体的な懸念事項は詳細に説明されていません。この禁止令は即時発効し、米国内にいる外国人やAnthropic社内の外国人従業員にも適用されます。Anthropicは命令を金曜午後5時21分に受け取り、書簡は政府の具体的な安全保障上の懸念を詳しく説明していなかったと述べています。

Mythos AIモデルはソフトウェアの脆弱性を検出する能力に特に優れており、数十年発見されていなかった脆弱性も見つけ出します。この能力は米国当局や一部企業によりセキュリティ対策に活用されてきましたが、悪用されれば危険なサイバー兵器になり得るとの懸念も当初からありました。Fable 5はMythos技術に基づくものの、サイバーセキュリティとバイオテクノロジー機能はブロックされています。非公開の完全版Mythos 5は政府機関と一部の企業パートナーに限定して利用が継続されます。

Anthropicは政府からの情報が部分的であると強調し、命令の引き金となった可能性がある報告書を調査した結果、特定のプログラムコードをレビューしてエラーを修正する限定的な能力に関するものだったと結論付けました。同社は、OpenAIのGPT-5.5などの他社モデルも同様の能力を持つと指摘し、数億ユーザーが利用するソフトウェアをこの理由でブロックすることに同意できないと述べ、Fable 5の安全対策は広範囲にテスト済みであると主張しています。

今月初め、Anthropicは世界のトップAI企業に対し、高度なAIシステムの開発を調整して一時停止するよう提案していました。技術の進歩があまりに速く、人間が制御を失うリスクがあると警告し、「世界には開発を遅らせたり一時停止したりする選択肢があることが望ましい」と述べていました。また、同社はGPT-5.5など他のモデルも同様のコードレビュー能力を持つにもかかわらず、同様の制限を受けていないと指摘し、政策の不整合を問題視しています。Anthropicは政府に対し、より明確なガイダンスを求めるとともに、ユーザーのプライバシーとセキュリティを守りながら当局との協力を続けると表明しています。