ChatGPTだけじゃない：Elon MuskのGrokipediaから回答を取得するAIチャットボット
ChatGPTやGoogleのAI Overviews、GeminiなどのAIツールが、Elon Muskが立ち上げたAI生成百科事典Grokipediaを引用し始めており、正確性や誤情報拡散への懸念が高まっている。現在Grokipediaの引用は全体のごく一部だが、特にChatGPTでは主要な情報源として扱われる傾向があり、その割合は増加傾向にある。専門家は、人間の監督を欠いたAI生成のGrokipediaを引用することは、偏見や誤りの拡散につながると警告している。
記事インテリジェンス
要点
- ChatGPT、Google AI Overviews、GeminiなどがGrokipediaを引用
- Grokipediaの引用は11月以降増加傾向にあるが、Wikipediaには及ばない
- 専門家はGrokipediaの人間による監督不足が誤情報拡散リスクを生むと指摘
- AIツールユーザーは引用元の信頼性を自ら確認すべき
重要な理由
このニュースが重要なのは、ChatGPT、Google AI Overviews、GeminiなどがGrokipediaを引用ためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
Elon Muskが提供するAI生成百科事典Grokipediaが、複数のAIチャットボットに情報源として使われ始めている。The Vergeの報道によれば、ChatGPT、GoogleのAI Overviews、GeminiなどがGrokipediaを引用しており、その頻度は増加傾向にある。これに対し、専門家は情報の正確性や誤情報拡散のリスクを警告している。
データ分析企業Ahrefsのマーケティング戦略責任者Glen Allsopp氏は、テスト環境においてGrokipediaがChatGPTの回答で約26万3000回引用され、約9万5000の個別ページが使われたと述べている。一方、英語版Wikipediaは290万回の回答で引用されており、まだ大きく差があるものの、Grokipediaは新興サービスとしては注目すべき伸びを示している。マーケティングプラットフォームProfoundの研究者Sartaj Rajpal氏は、Grokipediaの引用数はChatGPT全体の0.01%から0.02%程度だが、11月中旬以降着実に増加していると報告した。
AIツールごとにGrokipediaの扱われ方は異なる。ChatGPTではGrokipediaが主要な情報源として最初に表示されることが多いのに対し、GoogleのAI Overviewsでは補助的な参考資料として他の情報源と併記される傾向がある。BrightEdgeのCEO Jim Yu氏は、現在Grokipediaは主に非センシティブな百科事典的質問に使われているが、各プラットフォームが与える権威の差が広がっていると分析する。
GrokipediaはxAIのチャットボットGrokが自動生成しており、人間による透明な編集プロセスを持つWikipediaとは対照的だ。実際、Grokipediaの人種差別的・トランスフォビア的な内容や、Musk家の歴史を美化した記述が確認されている。また、AI生成であるため「LLMグルーミング」と呼ばれるデータ汚染に対しても脆弱だ。
OpenAIの広報担当者は、ChatGPTは検索時に多様な情報源を参照しているとし、ユーザーが引用元を確認できる仕組みを提供していると説明した。PerplexityやAnthropicは具体的なコメントを避け、xAIは要請に応じなかった。
専門家は、Grokipediaの引用率が低いうちも安心はできないと指摘する。トリニティ・カレッジ・ダブリンのTaha Yasseri教授は「流暢さが信頼性と誤認される危険がある」と述べ、SemrushのLeigh McKenzie氏はGrokipediaを「信頼性のコスプレ」と批判した。AIツールの利用者は、引用元の信頼性を自ら確認し、誤った情報の拡散に加担しないよう注意する必要がある。