缓解AI越狱的不可能性

要点

• 对齐仅改变了模型输出的概率分布，而非其能力边界。
• 在高维输入空间中，攻击者可通过大量修饰语找到使有害输出概率猛增的条件。
• 智能体系统（如ReAct代理）将控制与数据平面合并，导致特权侵蚀。
• 经典安全架构以数据/控制分离防御，而AI系统仅靠统计边界，易被越狱突破。