ChatGPT并非唯一从马斯克的Grokipedia获取答案的聊天机器人
ChatGPT和其他AI工具越来越多地引用埃隆·马斯克的AI生成百科全书Grokipedia，这引发了对其准确性和传播错误信息的担忧。尽管目前Grokipedia在引用中的占比很小，但其使用率正在上升，尤其是在ChatGPT中，它往往被当作主要来源，而谷歌的AI产品则将其作为辅助参考。专家警告称，使用AI生成且缺乏人类监督的Grokipedia作为来源，可能导致偏见、错误信息甚至数据中毒风险。
文章情报
要点
- ChatGPT、谷歌AI Overviews和Gemini等工具开始引用Grokipedia
- Grokipedia的引用量自11月以来持续增长，但仍远低于维基百科
- 专家担心AI生成的Grokipedia缺乏人类监督，容易传播虚假信息
- AI工具使用者被建议仔细核查引用来源的可靠性
为什么重要
这条新闻值得关注，因为ChatGPT、谷歌AI Overviews和Gemini等工具开始引用Grokipedia。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
埃隆·马斯克推出的AI生成百科全书Grokipedia，正悄然成为多个AI聊天机器人的信息来源。据《The Verge》报道，ChatGPT、谷歌的AI Overviews和Gemini等工具都曾引用Grokipedia的内容，且引用频率呈上升趋势。这引发了专家对信息准确性和潜在误导风险的担忧。
数据公司Ahrefs的营销战略主管格伦·奥尔索普表示，在测试中，Grokipedia在超过26.3万次ChatGPT回复中被引用，涉及约9.5万个独立页面。相比之下，英文维基百科在290万次回复中被引用。尽管差距明显，但对于一个去年10月才上线的平台来说，增速已相当可观。营销平台Profound的研究员萨塔吉·拉杰帕尔则指出，Grokipedia的引用量约占ChatGPT每日总引用的0.01%至0.02%，自11月中旬以来稳步上升。
不同的AI工具对Grokipedia的依赖程度各异。在ChatGPT中，Grokipedia经常被列为引用来源的前几位，获得较高权威性；而在谷歌的AI Overviews中，它通常被用作补充参考，与其他信息源并存。分析公司BrightEdge的CEO吉姆·余认为，目前Grokipedia主要用于回答非敏感的百科全书式问题，但不同平台赋予它的权重正在分化。
Grokipedia由xAI的聊天机器人Grok自动生成，缺乏人类编辑的透明流程。维基百科的编辑过程由人类主导，而Grokipedia的内容直接由AI产出，存在明显的质量问题。例如，它曾被报道包含种族主义、恐同观点，甚至对马斯克本人的家族历史进行了美化。此外，Grokipedia更容易受到所谓的“大语言模型驯服”攻击，即通过有意的数据投毒来操纵其输出。
OpenAI发言人肖基·阿姆多回应称，ChatGPT搜索时会引用多种公开来源，并允许用户直接查看和评估来源可靠性。Perplexity和Anthropic未正面回应相关风险，而xAI则拒绝置评。
专家强调，即使Grokipedia目前被引用的比例不高，但其作为AI生成系统的本质意味着它缺乏人类监督，且常依赖难以验证的私人网站和博客文章。都柏林圣三一学院的塔哈·亚瑟瑞教授指出，流畅的表达很容易被误认为是可靠性，而Semrush的利·麦肯齐则称Grokipedia“感觉像是对可信度的拙劣模仿”。随着其引用率不断上升，AI工具用户和开发者都应保持警惕，避免成为错误信息的传播渠道。