AI News HubLIVE
站內改寫2 分鐘閱讀

人工智慧讓人自信地犯錯

新研究揭示,人工智慧輔助使人們變得過度自信且準確度降低,他們用AI生成的流暢表達替代真實知識,導致“認知投降”現象,並催生出“垃圾殭屍”——這些人自信地輸出低質量內容。

來源Hacker News AI作者: mikelgan

矽谷,加利福尼亞(2026年7月20日)——上週發表的新研究揭示了職場上那些過度自信但能力不足的人背後的一種機制。該機制是“流暢性替代”:人們傾向於接受語法連貫、言之鑿鑿的AI答案,因為這些答案表面合理,而非經過事實核查或驗證(這一過程稱為“認知投降”)。AI答案的本質降低了人們判斷自己“知道得足夠多”的門檻,減少了健康的判斷懸置,從而對未經驗證的資訊過度自信。

這種動態部分解釋了相關“垃圾殭屍”現象的流行。正如筆者此前所述,“垃圾殭屍”是那些事事依賴AI聊天機器人的人。他們用冗長、詳細但平庸的報告、訊息、郵件和幻燈片攻擊他人,這些內容他們自己都沒讀過(卻期望你讀)。他們用AI生成的低質內容來展示一切,並驚歎於自己的“創造力”。

在那篇文章中,筆者稱“垃圾殭屍變得更笨、更懶,同時自信度上升。他們認為AI聊天機器人的想法和作品是自己的。”垃圾殭屍將懷疑和判斷委託給AI,而AI往往自信地犯錯。使用者隨後相信AI的“知識”就是自己的。

新的研究發現,當研究參與者可以獲得AI建議時,他們願意說“我不知道”的比例從44%(接近一半)下降到3%(接近零)。他們不說“我不知道”,但實際上常常不知道。有了AI建議,參與者的準確率從27%降至9%,而自信度從30%升至76%。換句話說,使用AI的人準確率只有三分之一,但自信度卻超過兩倍。僅僅AI的可用性就侵蝕了人們認知自己無知的能力。換言之,AI讓人們對自己知道什麼和不知道什麼產生錯覺。

此前沃頓商學院的研究也有類似發現:人們有80%的時間接受錯誤的AI答案,同時比沒有AI的工作者表現出更高的自信。這是垃圾殭屍錯覺的最大部分:他們對自己的知識和能力超級自信,但實際上並沒有多少知識和能力。當他們表現得像超級貢獻者時,就變成了垃圾殭屍。

垃圾殭屍用冗長、離題的內容、提案、幻燈片和郵件轟炸同事,相信自己才華橫溢,但實際上他們常常降低整個團隊或部門的效率,因為其他人需要更努力地分辨他們輸出中哪些是錯誤或有問題的。垃圾殭屍就像操作一個故障的網球發球機卻相信自己就是塞雷娜·威廉姆斯。

應對垃圾殭屍傳染的第一步是學會識別他們,同時理解AI現象和機制——AI讓人們將錯誤資訊自信地當作自己的真實知識。讀者可參考筆者之前關於垃圾殭屍的文章,獲取具體建議。