ChatGPT並非唯一從馬斯克的Grokipedia獲取答案的聊天機器人
ChatGPT和其他AI工具越來越多地引用埃隆·馬斯克的AI生成百科全書Grokipedia，這引發了對其準確性和傳播錯誤資訊的擔憂。儘管目前Grokipedia在引用中的佔比很小，但其使用率正在上升，尤其是在ChatGPT中，它往往被當作主要來源，而谷歌的AI產品則將其作為輔助參考。專家警告稱，使用AI生成且缺乏人類監督的Grokipedia作為來源，可能導致偏見、錯誤資訊甚至資料中毒風險。
文章情報
要點
- ChatGPT、谷歌AI Overviews和Gemini等工具開始引用Grokipedia
- Grokipedia的引用量自11月以來持續增長，但仍遠低於維基百科
- 專家擔心AI生成的Grokipedia缺乏人類監督，容易傳播虛假資訊
- AI工具使用者被建議仔細核查引用來源的可靠性
為什麼重要
這條新聞值得關注，因為ChatGPT、谷歌AI Overviews和Gemini等工具開始引用Grokipedia。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
埃隆·馬斯克推出的AI生成百科全書Grokipedia，正悄然成為多個AI聊天機器人的資訊來源。據《The Verge》報道，ChatGPT、谷歌的AI Overviews和Gemini等工具都曾引用Grokipedia的內容，且引用頻率呈上升趨勢。這引發了專家對資訊準確性和潛在誤導風險的擔憂。
資料公司Ahrefs的營銷戰略主管格倫·奧爾索普表示，在測試中，Grokipedia在超過26.3萬次ChatGPT回覆中被引用，涉及約9.5萬個獨立頁面。相比之下，英文維基百科在290萬次回覆中被引用。儘管差距明顯，但對於一個去年10月才上線的平臺來說，增速已相當可觀。營銷平臺Profound的研究員薩塔吉·拉傑帕爾則指出，Grokipedia的引用量約佔ChatGPT每日總引用的0.01%至0.02%，自11月中旬以來穩步上升。
不同的AI工具對Grokipedia的依賴程度各異。在ChatGPT中，Grokipedia經常被列為引用來源的前幾位，獲得較高權威性；而在谷歌的AI Overviews中，它通常被用作補充參考，與其他資訊源並存。分析公司BrightEdge的CEO吉姆·餘認為，目前Grokipedia主要用於回答非敏感的百科全書式問題，但不同平臺賦予它的權重正在分化。
Grokipedia由xAI的聊天機器人Grok自動生成，缺乏人類編輯的透明流程。維基百科的編輯過程由人類主導，而Grokipedia的內容直接由AI產出，存在明顯的質量問題。例如，它曾被報道包含種族主義、恐同觀點，甚至對馬斯克本人的家族歷史進行了美化。此外，Grokipedia更容易受到所謂的“大語言模型馴服”攻擊，即透過有意的資料投毒來操縱其輸出。
OpenAI發言人肖基·阿姆多回應稱，ChatGPT搜尋時會引用多種公開來源，並允許使用者直接檢視和評估來源可靠性。Perplexity和Anthropic未正面回應相關風險，而xAI則拒絕置評。
專家強調，即使Grokipedia目前被引用的比例不高，但其作為AI生成系統的本質意味著它缺乏人類監督，且常依賴難以驗證的私人網站和部落格文章。都柏林聖三一學院的塔哈·亞瑟瑞教授指出，流暢的表達很容易被誤認為是可靠性，而Semrush的利·麥肯齊則稱Grokipedia“感覺像是對可信度的拙劣模仿”。隨著其引用率不斷上升，AI工具使用者和開發者都應保持警惕，避免成為錯誤資訊的傳播渠道。