研究人员警告：AI幻觉引用正渗透入影响临床指南的论文
哥伦比亚大学等机构对250万篇生物医学论文的审查显示，自2023年以来，伪造参考文献的比例增加了超过12倍。研究人员怀疑这与语言模型的广泛使用有关——这些虚假引用与论文主题匹配，格式正确，几乎无法识别。98%的受影响论文未得到出版商回应。
文章情报
工程师进阶
要点
- 250万篇生物医学论文审计发现伪造引用率自2023年增加12倍以上
- 虚假引用与论文主题相关、格式规范，极难被发现
- 98%的受影响论文未收到出版商回应
为什么重要
这条新闻值得关注，因为250万篇生物医学论文审计发现伪造引用率自2023年增加12倍以上。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
哥伦比亚大学及其他机构的一项大规模审计发现，在250万篇生物医学论文中，AI生成的虚假参考文献比例自2023年以来惊人地增长了超过12倍。研究人员指出，这一现象很可能与大型语言模型的广泛使用直接相关——这些模型经常“幻觉”出看似真实但实际不存在的引用。值得注意的是，这些伪造的引用不仅与论文主题高度吻合，还遵循了正确的格式规范，使得同行评审和编辑几乎无法识别。
这项研究揭示了学术出版中一个日益严重的信任危机。审计结果显示，几乎所有（98%）受影响的论文都未得到出版商的任何回应或纠正。考虑到这些论文可能被用于制定临床指南或影响医疗决策，这种沉默可能对患者安全和医疗实践产生深远影响。
研究人员呼吁学术社区和出版商迅速采取行动，包括改进审稿流程、开发检测AI幻觉引用的工具，以及加强对使用语言模型辅助写作的透明度要求。否则，学术文献的完整性将持续受到侵蚀。