AIが幻覚を見た引用が臨床ガイドラインを形成する論文に紛れ込むと研究者が警告
コロンビア大学などの機関による250万の生物医学論文の調査では、2023年以降、捏造された参考文献の割合が12倍以上増加していることが示されている。研究者らは、その原因を言語モデルの広範な使用にあると疑っている。偽の参考文献は論文のテーマに一致し、正しい書式に従い、ほぼ見破ることが不可能である。影響を受けた論文の98％は出版社からの応答がない。
記事インテリジェンス
要点
- 250万件の生物医学論文の監査で、2023年以降、捏造参考文献率が12倍以上増加
- 偽の引用はトピックや書式が正確で、ほぼ検出不可能
- 影響を受けた論文の98％が出版社からの応答なし
重要な理由
このニュースが重要なのは、250万件の生物医学論文の監査で、2023年以降、捏造参考文献率が12倍以上増加ためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
コロンビア大学およびその他の機関による大規模な監査により、250万件の生物医学論文の中で、AIが生成した偽の参考文献の割合が2023年から驚異的に12倍以上増加していることが明らかになりました。研究者は、この現象が大規模言語モデルの広範な使用に直接関連していると指摘しています。これらのモデルは現実には存在しない引用を「幻覚」として生成することが多く、注目すべきことに、偽の引用は論文のトピックに合致し、正しい書式に従っているため、査読者や編集者がほぼ見破ることができません。
この研究は、学術出版における信頼性の危機が深刻化していることを示しています。監査の結果、影響を受けた論文の98％が出版社から何の対応も訂正も受けていないことが判明しました。これらの論文が臨床ガイドラインの策定や医療判断に使用される可能性を考慮すると、この黙過は患者の安全や医療実践に深刻な影響を及ぼす可能性があります。
研究者は、学術コミュニティと出版社が迅速に対策を講じるよう求めています。具体的には、査読プロセスの改善、AI幻覚引用を検出するツールの開発、言語モデルを使用した執筆の透明性要件の強化などが挙げられます。そうしなければ、学術文献の完全性は侵食され続けるでしょう。