政府命令によりAnthropicがFable 5とMythos 5へのアクセスを遮断
金曜夜、政府は国家安全保障上の懸念から、Anthropicに対しFable 5とMythos 5へのアクセスを国内外の全外国に対して遮断するよう命令した。この命令にはAnthropicの従業員も含まれる。要請を満たすため、同社は全顧客に対しモデルへのアクセスを完全に遮断した。Anthropicは声明で命令に従う一方、政府が国家安全保障上の懸念の具体的詳細を提供せず、潜在的な脱獄の証拠は口頭で提供されたに過ぎず、発見された脆弱性は軽微で他のモデルでも利用可能であると主張した。
金曜の夜、米国政府は国家安全保障上の理由から、AI企業Anthropicに対し、最新モデルであるFable 5およびMythos 5へのアクセスを、米国内外のすべての外国ユーザーに対して直ちに遮断するよう命令しました。この命令はAnthropicの従業員にも及びました。要求に応えるため、Anthropicはすべての顧客に対してこれらのモデルへのアクセスを完全に停止しました。
Anthropicは声明で、命令には従うものの、政府は「国家安全保障上の懸念の具体的な詳細を提供しなかった」と述べています。同社によれば、政府は潜在的な「ジェイルブレイク」の証拠を口頭でのみ伝え、その脆弱性は軽微であり、GPT 5.5を含む他のモデルでも同様に利用可能であるとしています。
声明ではまた、Anthropicがモデルの安全性を確保するために講じた措置として、米英政府との協力や、悪意のある使用を追跡するためのデータ保持ポリシーの変更が挙げられています。Anthropicは「有害な結果をもたらす非普遍的な潜在的なジェイルブレイクの開示すら受け取っていない。開示された潜在的なジェイルブレイクは、完全に無害な応答か、Mythos特有の向上をもたらさない軽微な発見に過ぎない」と強調しています。
この出来事は、AIモデルへのアクセス制限に関する政府の介入の透明性について広範な議論を引き起こしています。Anthropicは、イノベーションや国際協力に不必要な制限を課さないよう、政府に対しより明確な根拠の提供を求めています。