AI脱獄（ジェイルブレイク）対策の不可能性

要点

• アライメントは出力の確率分布を変えるだけで、モデルの能力限界は変わらない。
• 高次元の入力空間では、攻撃者は有害な出力の確率を急増させる修飾語を無数に見つけられる。
• エージェントシステム（ReActエージェントなど）は制御プレーンとデータプレーンを統合し、特権侵食を引き起こす。
• 古典的なセキュリティはデータと制御をアーキテクチャ的に分離するが、AIシステムは統計的な境界に頼るため、脱獄で容易に突破される。