米国政府が最も強力なAIを停止した日

要点

• 米国商務省は、研究者Pliny the Liberatorによるジェイルブレイクを受けて、AnthropicにFable 5とMythos 5の停止を命令。ジェイルブレイクはUnicode置換や長文脈スレッディングなどのプロンプトインジェクション技術を使用。
• Anthropicは命令に従ったが、政府の反応は過剰だと主張。同様の能力はGPT-5.5などの他の公開モデルに既に存在し、政府は口頭での証拠しか提供していないと指摘。
• この事件は、AIセーフティレイヤーの脆弱性、防御的AIと攻撃的AIの境界の曖昧さ、規制介入の迅速さを浮き彫りに。
• フロンティアAIモデルに対する輸出管理の先例を確立し、セキュリティチームは規制によるAIツールの利用不可を計画する必要がある。