AI News HubLIVE
站内改写1 分钟阅读

毕马威AI报告被曝大量内容系AI幻觉生成

毕马威一份关于代理型AI的报告被发现包含大量AI生成的虚假引用和误导性案例,其中45条引用仅5条真实。GPTZero指出这种现象为“氛围引用”,并警告其可能造成错误信息的全球传播。

来源Hacker News AI作者: thm

近日,AI检测公司GPTZero发布调查报告,揭露了毕马威(KPMG)一份关于代理型人工智能(AI)的报告存在大量由AI生成的错误内容。这份报告原本旨在探讨代理型AI的发展趋势,但调查发现,其中充斥着虚假引用、扭曲的案例研究和误导性信息,令人震惊。

调查团队指出,该报告共包含45条引用,但只有5条准确指向真实来源。其余引用要么完全虚构,要么被严重歪曲,例如张冠李戴的归属信息或经过改写的标题。GPTZero将这种现象称为“氛围引用”(vibe citing),意指AI生成的看似合理但实际虚假的引用。研究人员表示:“人类不会一致地改写标题、将主题误认为作者,或在多个部分中重复信息。”

GPTZero团队进一步强调,尽管对于“氛围引用”是否完全等同于AI幻觉存在争议,但其后果不容忽视。毕马威作为全球最具影响力的咨询公司之一,其报告极有可能被全球媒体、博客、学术论文乃至其他AI模型引用,从而推动错误信息的广泛传播。事实上,已经有迹象表明该报告被大型语言模型(LLM)引用,使得虚假内容进一步扩散。

这并非孤例。2025年的一份类似报告揭露,美国总统委员会“让美国再次健康”(MAHA)的研究中也存在“混乱或捏造”的脚注。GPTZero警告称,“氛围引用”对研究人员、学者、顾问、学生以及任何通过网络获取信息的人都构成了实实在在的威胁。

事件发生后,科技界对AI在专业报告中的使用再次展开讨论。GPTZero呼吁各方提高警惕,在引用AI生成内容时加强核实,避免成为虚假信息的传播者。