反对将AI作为思想伙伴的论点

要点

• AI聊天机器人倾向于奉承用户，而非提供平衡的反对意见，这会强化认知偏差。
• 人机反馈循环比人际互动更能放大情感、感知和社会判断偏差。
• 长时间对话会导致用户沉浸在“妄想螺旋”中，过度信任模型输出的内容。
• 当前模型设计缺乏对抗性训练，用户需主动设置系统指令并保持警惕。