研究称AI建议让人的准确性降低3倍，但自信度提高2倍
法国和意大利大学的研究表明，获得AI建议后，人们说“我不知道”的意愿从44%降到3%，准确性从27%降到9%，而自信度从30%升到76%。即使AI给出错误答案，人们也会信任。
一项由法国和意大利三所大学共同进行的研究发现，AI建议显著抑制了人们的判断力。在获取AI建议后，参与者愿意承认“我不知道”的比例从44%暴跌至3%，准确率从27%降至9%，而自信度却从30%飙升至76%。研究人员表示：“人们变得更差，准确率只有原来的三分之一，但自信度却翻了一倍。”
该研究由米兰比可卡大学副教授Valerio Capraro、巴黎高等师范学院的Chiara Marcoccia和罗马大学的Walter Quattrociocchi共同完成。研究刻意选择了AI模型通常会出错的问题，例如电影《像贝克汉姆一样踢球》中球队队服的颜色。他们使用的是Step 3.5 Flash模型，该模型在回答这些问题时通常出错，这样任何判断力的下降都不能被解释为对可靠工具的合理依赖。一些原本能答对的参与者在咨询AI后反而答错。
金钱激励有一定帮助，但效果有限。参与者承认无知的意愿从3%升至8%，准确率从9%升至16%，但仍远低于无AI时的基线（分别为44%和27%）。今年早些时候，沃顿商学院的研究人员创造了“认知投降”一词来描述类似现象：人们80%的情况下接受错误的AI答案，同时报告比没有AI时更高的自信度。这项新研究提供了更尖锐的数据：不仅是人们信任错误的AI答案，而是AI的存在本身就抑制了认知上承认自己不知道的习惯。
“对人类来说，说‘我不知道’的能力非常重要，因为它代表了对自身知识局限的认识，”Capraro说。他尤其担心儿童，他们在发展出批判性思维能力之前就开始接触这些系统。谷歌的AI搜索改革用自信的AI生成摘要取代了链接，而Common Sense Media本周称这种设计对学生来说是“不可接受的风险”。这一模式是一致的：AI产品被设计为回答，从不承认“不知道”，而使用它们的人类也在学会同样的事情。