AI生成の提出物が議会審査に虚偽情報をもたらす—キャンベラに警鐘

オーストラリア連邦議会の主要な委員会の委員長らは、AIが生成した大量の提出物が政策決定プロセスに誤った情報、さらには「幻覚」による情報を持ち込んでいると警告し、議員らに内容の真実性を慎重に確認するよう求めた。

今週報じられたガーディアン・オーストラリアの分析によると、議会調査にはAIが作成したコンテンツが殺到しており、その中には実在する学者や著者の名前を使って存在しない研究をでっち上げるものもある。さらに一部の委員会報告書では、示された出典の大部分がAIの幻覚とみられるような提出物が引用されている。AIの幻覚とは、大規模言語モデル（LLM）が、実際には存在しないのに本物のように見える内容を作り出したり参照したりする現象を指す。

今回の報道を受け、キャンベラの政治関係者の間では、生成AIの利用が急速に広がる中で、議会の調査に提出される情報の信頼性を確保する仕組みがこれまで以上に重要になるとの認識が強まっている。委員会の責任者らは、AI由来の虚偽情報が立法や政策提言に影響を及ぼさないよう、提出物の精査を徹底する必要があると強調している。