AIと真実に関する本にAI生成の偽引用が含まれていた

2026年5月、スティーブン・ローゼンバウム（Steven Rosenbaum）の著書『真実の未来』（The Future of Truth）が刊行された。同書は人工知能が現実、信頼、メディアをどのように変えるかを考察する内容だったが、皮肉にもAIが生成した偽の引用が複数含まれていることが発覚した。この問題は『ニューヨーク・タイムズ』、『デイリー・ビースト』、『アトランティック』、Ars Technicaによって報じられた。

ローゼンバウムは調査、執筆、編集の過程でChatGPTとClaudeを使用したことを認め、「不適切な帰属または合成引用」について責任を取ると述べた。具体的には、テクノロジージャーナリストのカラ・スウィッシャー（Kara Swisher）に帰属された引用は彼女自身が発言を否定。神経科学者のリサ・フェルドマン・バレット（Lisa Feldman Barrett）に関連する引用は彼女の著書『How Emotions Are Made』に存在せず、内容も誤っていた。また、メレディス・ブルサード（Meredith Broussard）の引用は実際の発言ではあるが、出典として彼女の著書『Artificial Unintelligence』ではなく2023年のインタビューが正しいものであった。Ars Technicaは少なくとも6件の問題引用を確認した。

ローゼンバウムはAIツールをリソースおよび対話パートナーとして活用していたと説明し、ChatGPTを非難しながらも同ツールを手放せないと述べている。この姿勢は、AIを研究の道具として使うことと、その出力を無批判に受け入れることの境界線を曖昧にする。非フィクション作品において引用は証拠であり、AIは文体や引用形式を模倣できても真実性を保証しない。出版社の編集プロセスでは通常、引用を一次資料と照合するが、本件ではその検証が不足していたか、AIが生成したノートを基に検証が行われた可能性が高い。

この事件は、AI支援研究の落とし穴を明確に示している。スピードや効率を優先するあまり、人間による一次資料への確認が省略されると、AIは「もっともらしい嘘」を作り出す。将来の版で修正されるとしても、初版の印象は覆らない。著者がAIによる嘘を警告しながら、自らその嘘に陥ったという皮肉は、業界全体への教訓として記憶されるだろう。安全なワークフローは明白だ。すべての引用は一次資料に遡って確認すべきであり、AIはあくまでもブレインストーミングのパートナーに過ぎない。真実についての本は、それをよく知っているべきだった。