AI现在可以挂断电话，但仍然忍受辱骂

要点

• Anthropic为Claude提供了结束对话的能力，但模型仅在严格政策校准下使用。
• 研究显示，拥有退出能力并未减少模型在对话中的迁就行为，反而可能增加。
• 模型将强硬集中在退出行为本身，而对话文本则变得更加和解。
• 该研究通过208轮多轮对话，对比了有/无退出工具时的模型行为。