关于AI与真相的书竟包含人工智能生成的虚假引用

2026年5月，史蒂文·罗森鲍姆（Steven Rosenbaum）的新书《真相的未来》（The Future of Truth）出版，该书旨在探讨人工智能如何重塑现实、公共信任和媒体。然而，就在出版当月，这本关于AI与真相的书籍却遭遇了极具讽刺意味的丑闻——《纽约时报》、《每日野兽》、《大西洋月刊》和Ars Technica相继报道，书中存在多处由AI生成的虚假或错误归属的引文。

罗森鲍姆承认在研究、写作和编辑过程中使用了OpenAI的ChatGPT和Anthropic的Claude，并对这些所谓“不当归属或合成引文”承担责任。调查发现，书中一段引文被错误地归因于科技记者卡拉·斯威舍（Kara Swisher），而她本人否认曾说过这些话。另一段涉及神经科学家丽莎·费尔德曼·巴雷特（Lisa Feldman Barrett）的内容，不仅引用来源错误，还歪曲了她的实际观点。此外，作者梅雷迪思·布鲁萨德（Meredith Broussard）的引文虽真实存在，却被标注了错误的出处——源于2023年的一次采访，而非其著作《人工愚蠢》（Artificial Unintelligence）。Ars Technica指出，至少有三处外部引文存在问题，总计可能更多。

这些错误的出现并非偶然。罗森鲍姆在接受采访时表示，他依赖AI工具作为资源和对谈伙伴，但他同时将错误归咎于ChatGPT，并称自己无法想象放弃这些工具。这种矛盾的态度恰恰揭示了问题的核心：AI可以被用作研究辅助，但绝不能成为事实核查的替代品。在非虚构作品中，引文是证据，而非装饰。当作者将AI生成的看似合理的语句当作真实引文使用时，整本书的论证基础就会动摇。

《真相的未来》的案例并非孤例，而是AI辅助研究时代的一个缩影。出版流程中的编辑、校对和事实核查环节本应拦截此类错误，但若这些环节也依赖于AI生成的材料而非原始来源，虚假信息便会畅通无阻。罗森鲍姆承认，未来版本将进行修正，但初版造成的损害已难以完全弥补。

此事件的教训明确：任何引文都必须追溯至原始材料。AI可以作为头脑风暴工具或笔记整理助手，但不能成为作者与证据之间的中介。当机器站在作者和证据之间时，它可能凭空捏造证据。一本关于真相的书籍理应深谙此理，而所有关注此事件的出版商也应引以为戒。