Anthropic、トランプ政権の指令でFable、Mythosモデルを停止

Anthropicは金曜夜、リリースからわずか数日でMythos 5とFable 5モデルへのアクセスを完全に遮断した。この動きは、米商務省が金曜夕方に発した指令を受け、これらの新モデルが輸出規制の対象となり、米国外での使用が制限されたことによる。Anthropicは金曜夜の声明で、政府命令に即座に従う唯一の方法として「全顧客に対しFable 5とMythos 5を突然無効化せざるを得ない」と述べた。他のAnthropicモデルへのアクセスは影響を受けない。

Axiosの報道によると、政権当局者は、サイバーセキュリティ、化学、生物学に関するプロンプトをブロックする広範な分類器ベースのセーフガードを回避する脱獄攻撃の報告に懸念を示している。この攻撃は、モデルに特定のコードベースをレビューさせることでソフトウェアの欠陥を発見させるものとされる。政権は、この脅威に対する「国家安全保障機関」の強化を図るため、これらのモデルのリリース一時停止を要請したという。Axiosの情報筋は、強化は「数週間以内」に完了する可能性があると示唆している。

金曜夜の発表で、Anthropicは政府の懸念に詳細に回答した。同社は、政府から「特定のコードベースをレビューさせてソフトウェアの欠陥を発見する、狭く非普遍的な脱獄の可能性」に関する口頭での証拠のみを提供されたと述べている。Anthropicは、この種の脱獄攻撃が「軽微」かつ「比較的単純な」ソフトウェア脆弱性の発見にのみ使用されているのを確認しており、GPT-5.5のような他の公開モデルも同様の能力を持つと主張している。同社は、広範なセキュリティリスクの証拠はなく、これらのモデルはリリース前に厳格なセキュリティテストを経ていると強調している。

この出来事は、AIモデルの輸出規制とセキュリティ審査に関する広範な議論を引き起こしている。一部の専門家は、政府の行動が過激すぎる可能性があり、米国のAI企業の競争力に影響を与えると懸念している。一方で、政府の慎重な姿勢を支持する声もあり、安全保障などの問題には警戒が必要だとしている。現時点で、Anthropicはこれらのモデルへのアクセスがいつ再開されるかについて明らかにしていないが、懸念の解決に向けて政府と協力していると述べている。