關於AI與真相的書竟包含人工智能生成的虛假引用

2026年5月，史蒂文·羅森鮑姆（Steven Rosenbaum）的新書《真相的未來》（The Future of Truth）出版，該書旨在探討人工智能如何重塑現實、公共信任和媒體。然而，就在出版當月，這本關於AI與真相的書籍卻遭遇了極具諷刺意味的醜聞——《紐約時報》、《每日野獸》、《大西洋月刊》和Ars Technica相繼報道，書中存在多處由AI生成的虛假或錯誤歸屬的引文。

羅森鮑姆承認在研究、寫作和編輯過程中使用了OpenAI的ChatGPT和Anthropic的Claude，並對這些所謂“不當歸屬或合成引文”承擔責任。調查發現，書中一段引文被錯誤地歸因於科技記者卡拉·斯威舍（Kara Swisher），而她本人否認曾説過這些話。另一段涉及神經科學家麗莎·費爾德曼·巴雷特（Lisa Feldman Barrett）的內容，不僅引用來源錯誤，還歪曲了她的實際觀點。此外，作者梅雷迪思·布魯薩德（Meredith Broussard）的引文雖真實存在，卻被標註了錯誤的出處——源於2023年的一次採訪，而非其著作《人工愚蠢》（Artificial Unintelligence）。Ars Technica指出，至少有三處外部引文存在問題，總計可能更多。

這些錯誤的出現並非偶然。羅森鮑姆在接受採訪時表示，他依賴AI工具作為資源和對談夥伴，但他同時將錯誤歸咎於ChatGPT，並稱自己無法想象放棄這些工具。這種矛盾的態度恰恰揭示了問題的核心：AI可以被用作研究輔助，但絕不能成為事實核查的替代品。在非虛構作品中，引文是證據，而非裝飾。當作者將AI生成的看似合理的語句當作真實引文使用時，整本書的論證基礎就會動搖。

《真相的未來》的案例並非孤例，而是AI輔助研究時代的一個縮影。出版流程中的編輯、校對和事實核查環節本應攔截此類錯誤，但若這些環節也依賴於AI生成的材料而非原始來源，虛假信息便會暢通無阻。羅森鮑姆承認，未來版本將進行修正，但初版造成的損害已難以完全彌補。

此事件的教訓明確：任何引文都必須追溯至原始材料。AI可以作為頭腦風暴工具或筆記整理助手，但不能成為作者與證據之間的中介。當機器站在作者和證據之間時，它可能憑空捏造證據。一本關於真相的書籍理應深諳此理，而所有關注此事件的出版商也應引以為戒。