KPMGのAIレポート、AI幻覚だらけと判明

AI検出企業GPTZeroは最新の調査報告書で、KPMGが発表したエージェンティックAIに関するレポートに、AIによって生成された多数の誤りや虚偽の引用、誤解を招くケーススタディが含まれていることを明らかにした。このレポートは本来、エージェンティックAIの動向を探るものだったが、調査により、その内容がAI幻覚（ハルシネーション）に汚染されていることが判明した。

調査チームによると、レポート内の45件の引用のうち、実際の出典を正確に示していたのはわずか5件だった。残りの引用は完全に偽造されているか、帰属情報が歪められていたり、タイトルが言い換えられたりしていた。GPTZeroはこうした現象を「バイブ引用（vibe citing）」と呼び、生成AIがもっともらしい偽の参考文献を作り出していると指摘する。研究者らは「人間は一貫してタイトルを言い換えたり、トピックと著者を混同したり、複数のセクションで情報を繰り返したりしない」と述べている。

GPTZeroは、バイブ引用を単なる幻覚と見なすべきか議論があるものの、最終的には「バイブには結果が伴う」と結論づけている。KPMGは世界的な影響力を持つコンサルティング企業であり、そのレポートはニュース、ブログ、その他の会話で世界中に引用され、誤情報を拡散する可能性が高い。さらに、このレポートが大規模言語モデル（LLM）に引用されることで、情報がさらに広がる危険性も指摘されている。

これは、2025年に米国大統領委員会「Make America Healthy Again（MAHA）」の研究にも「混乱したまたは捏造された」脚注が含まれていたという報告に続くものである。GPTZeroは「バイブ引用は研究者、学者、コンサルタント、学生、そしてインターネットで情報を検索するすべての人にとって明白かつ現在の危険である」と警告している。

この事件は、AIが生成したコンテンツの信頼性に関する懸念を再燃させており、専門家は引用の徹底的な検証の重要性を訴えている。