人工智能让人自信地犯错
新研究揭示,人工智能辅助使人们变得过度自信且准确度降低,他们用AI生成的流畅表达替代真实知识,导致“认知投降”现象,并催生出“垃圾僵尸”——这些人自信地输出低质量内容。
硅谷,加利福尼亚(2026年7月20日)——上周发表的新研究揭示了职场上那些过度自信但能力不足的人背后的一种机制。该机制是“流畅性替代”:人们倾向于接受语法连贯、言之凿凿的AI答案,因为这些答案表面合理,而非经过事实核查或验证(这一过程称为“认知投降”)。AI答案的本质降低了人们判断自己“知道得足够多”的门槛,减少了健康的判断悬置,从而对未经验证的信息过度自信。
这种动态部分解释了相关“垃圾僵尸”现象的流行。正如笔者此前所述,“垃圾僵尸”是那些事事依赖AI聊天机器人的人。他们用冗长、详细但平庸的报告、消息、邮件和幻灯片攻击他人,这些内容他们自己都没读过(却期望你读)。他们用AI生成的低质内容来展示一切,并惊叹于自己的“创造力”。
在那篇文章中,笔者称“垃圾僵尸变得更笨、更懒,同时自信度上升。他们认为AI聊天机器人的想法和作品是自己的。”垃圾僵尸将怀疑和判断委托给AI,而AI往往自信地犯错。用户随后相信AI的“知识”就是自己的。
新的研究发现,当研究参与者可以获得AI建议时,他们愿意说“我不知道”的比例从44%(接近一半)下降到3%(接近零)。他们不说“我不知道”,但实际上常常不知道。有了AI建议,参与者的准确率从27%降至9%,而自信度从30%升至76%。换句话说,使用AI的人准确率只有三分之一,但自信度却超过两倍。仅仅AI的可用性就侵蚀了人们认知自己无知的能力。换言之,AI让人们对自己知道什么和不知道什么产生错觉。
此前沃顿商学院的研究也有类似发现:人们有80%的时间接受错误的AI答案,同时比没有AI的工作者表现出更高的自信。这是垃圾僵尸错觉的最大部分:他们对自己的知识和能力超级自信,但实际上并没有多少知识和能力。当他们表现得像超级贡献者时,就变成了垃圾僵尸。
垃圾僵尸用冗长、离题的内容、提案、幻灯片和邮件轰炸同事,相信自己才华横溢,但实际上他们常常降低整个团队或部门的效率,因为其他人需要更努力地分辨他们输出中哪些是错误或有问题的。垃圾僵尸就像操作一个故障的网球发球机却相信自己就是塞雷娜·威廉姆斯。
应对垃圾僵尸传染的第一步是学会识别他们,同时理解AI现象和机制——AI让人们将错误信息自信地当作自己的真实知识。读者可参考笔者之前关于垃圾僵尸的文章,获取具体建议。