研究稱AI建議讓人的準確性降低3倍，但自信度提高2倍
法國和義大利大學的研究表明，獲得AI建議後，人們說“我不知道”的意願從44%降到3%，準確性從27%降到9%，而自信度從30%升到76%。即使AI給出錯誤答案，人們也會信任。
一項由法國和義大利三所大學共同進行的研究發現，AI建議顯著抑制了人們的判斷力。在獲取AI建議後，參與者願意承認“我不知道”的比例從44%暴跌至3%，準確率從27%降至9%，而自信度卻從30%飆升至76%。研究人員表示：“人們變得更差，準確率只有原來的三分之一，但自信度卻翻了一倍。”
該研究由米蘭比可卡大學副教授Valerio Capraro、巴黎高等師範學院的Chiara Marcoccia和羅馬大學的Walter Quattrociocchi共同完成。研究刻意選擇了AI模型通常會出錯的問題，例如電影《像貝克漢姆一樣踢球》中球隊隊服的顏色。他們使用的是Step 3.5 Flash模型，該模型在回答這些問題時通常出錯，這樣任何判斷力的下降都不能被解釋為對可靠工具的合理依賴。一些原本能答對的參與者在諮詢AI後反而答錯。
金錢激勵有一定幫助，但效果有限。參與者承認無知的意願從3%升至8%，準確率從9%升至16%，但仍遠低於無AI時的基線（分別為44%和27%）。今年早些時候，沃頓商學院的研究人員創造了“認知投降”一詞來描述類似現象：人們80%的情況下接受錯誤的AI答案，同時報告比沒有AI時更高的自信度。這項新研究提供了更尖銳的資料：不僅是人們信任錯誤的AI答案，而是AI的存在本身就抑制了認知上承認自己不知道的習慣。
“對人類來說，說‘我不知道’的能力非常重要，因為它代表了對自身知識侷限的認識，”Capraro說。他尤其擔心兒童，他們在發展出批判性思維能力之前就開始接觸這些系統。谷歌的AI搜尋改革用自信的AI生成摘要取代了連結，而Common Sense Media本週稱這種設計對學生來說是“不可接受的風險”。這一模式是一致的：AI產品被設計為回答，從不承認“不知道”，而使用它們的人類也在學會同樣的事情。