連邦政府がAnthropicにFable 5とMythos 5のリコールを命令、発売から3日後

Anthropicは金曜日の夜、全顧客に対してFable 5とMythos 5を突然無効化した。米国政府が輸出管理指令を発令し、国内外の外国人によるモデルへのアクセスを停止したためだ。この指令は外国籍の従業員にも及ぶため、同社は全ユーザーに対してモデルを停止する以外に遵守する方法はないとしている。他のAnthropicモデルには影響はない。

私がこの記事を書き始めた時点（東部時間午後9時20分頃）では、まだFableにアクセスできていた。しかし午後10時5分頃、公開前にFable 5へのアクセスを失った。Claudeのチャットには「選択したモデル（claude-fable-5）に問題があります。存在しないか、アクセス権がない可能性があります」と表示される。

Anthropicによると、指令は東部時間午後5時21分に届き、国家安全保障権限を根拠としているが、懸念の具体的な詳細は示されていないという。同社の理解では、政府は誰かがFable 5をジェイルブレイクする方法を見つけたと判断したようだ。同社はこの手法のデモを確認したと述べ、既知の軽微な脆弱性が少数明らかになったに過ぎず、他の公開モデルでも迂回なしに同様の脆弱性を見つけられるとしている。

Axiosは金曜日、商務省が別の企業がMythosをジェイルブレイクしたと主張した後に動き、政権は輸出管理書簡を送る前にAnthropicにリリース延期を求めたが失敗したと報じている。

Anthropicは遵守しつつも反論している。「狭い潜在的なジェイルブレイク手法の発見が、何億人もの人々に展開された商用モデルをリコールする理由になるとは考えていない」と同社は述べ、業界全体に同じ基準を適用すれば「すべてのフロンティアモデルプロバイダーの新モデル展開が事実上停止する」と警告した。同社が説明するジェイルブレイクは、モデルにコードベースを読ませてソフトウェアの欠陥を修正させるというもので、他のモデルでも広く利用可能であり、「システムを安全に保つ防御者によって日常的に使用されている」としている。

今回の停止は、最も迅速に行動したチームに大きな打撃を与えた。Fable 5は火曜日にリリースされ、入力トークン100万あたり10ドル、出力トークン100万あたり50ドルで提供されていた。当社のローンチ記事では読者にすぐに試すよう勧めていたが、もちろん6月22日の使用期限を指しており、今回の突然の連邦指令を想定したものではなかった。今週Fable 5を本番環境に導入した企業は、代替モデルを急遽探さなければならない。他のAnthropicモデル（Opus、Sonnet、Haiku）が影響を受けていないことは救いだ。

セーフガードをめぐる争いはローンチ以来くすぶっていた。AnthropicはMythos 5を承認された組織に限定し、Fableには広範なガードレールを設定し、Mythosクラスのトラフィックに対しては30日間のデータ保持を義務付け、ジェイルブレイクの検出、追跡、阻止に特化していた。またローンチ時点で、どのプロバイダーも完全なジェイルブレイク耐性は現在不可能であると明言していた。それでもリコールは実施され、Anthropicがこれまでに受け取った証拠は口頭のみだという。

Anthropicは今回の事態を誤解と呼び、アクセス復旧に向けて取り組んでおり、24時間以内に詳細を約束している。