AIが危険になりすぎたとき、誰が決めるのか？
米国政府は、Anthropicが公開したばかりのAIモデル「Fable 5」とその基盤モデル「Mythos」に対し、安全保障を理由に輸出規制を課し、外国人によるアクセスを禁止した。Anthropicはこれに対応できず、両モデルを全面的にオフラインにした。この出来事は、米国のAI規制の混乱と、Anthropicとトランプ政権の緊張関係を浮き彫りにしている。
先週金曜日、Anthropicが公開して間もない新しいAIモデル「Fable 5」に対し、米国政府が安全保障を理由に輸出規制を発動した。規制はFable 5の基盤モデルである「Mythos」にも及び、米国内のAnthropicの外国籍従業員を含むすべての外国人のアクセスが禁止された。Anthropicは短期間での完全な遵守が困難として、両モデルを全面的にオフラインにした。
発端は、Amazonの研究者がFable 5に「脱獄」の脆弱性を発見したことだった。Amazon CEOのアンディ・ジャシーが財務長官スコット・ベセントに懸念を伝え、トランプ政権は90分以内にモデルを停止するようAnthropicに要求。Anthropicは対話を試みたが、CEOのダリオ・アモデイがすぐに折り返さなかったため、政権は輸出規制を即座に発動した。
この事態はAnthropicだけでなく、業界全体に波紋を広げている。OpenAIやGoogleなど他社も同様のリスクに直面する可能性があり、規制の透明性や継続性の欠如が批判されている。セキュリティ専門家は、Fable 5の脆弱性が他社のモデルにも存在すると指摘する。
皮肉なことに、AnthropicはこれまでAIの危険性を強く訴え、規制強化を求めてきた。しかし、自社の安全対策が施されたはずのFable 5が危険視され、規制の犠牲となった。これは、トランプ政権のAI政策の不安定さと、Anthropicとの関係悪化（以前のサプライチェーンリスク指定や訴訟など）を反映している。
現在もFable 5はオフラインのままで、Anthropicは政権と協議を続けている。業界関係者は、このような突発的な規制が米国AI企業の国際競争力を弱め、他国に代替技術を模索させる可能性を懸念している。また、トランプ政権がAnthropicやOpenAIの株式取得を検討しているとの噂もあり、今後の展開は予断を許さない。この事件は、AI規制のあり方について広範な議論を喚起している。