BBC調査：海外の偽装者がAI動画で英国衰退のナラティブを拡散

英国放送協会（BBC）の調査で、海外の偽装者が人工知能（AI）を使って生成した動画をソーシャルメディアで拡散し、英国の衰退と反移民のナラティブを広めている実態が明らかになった。これらの動画はFacebookやInstagramで数百万回再生されているが、運営者の多くは数千キロ離れた海外にいる。

調査によると、運営者はスリランカ、米国、欧州諸国、ベトナム、モルディブなどに所在し、中にはイランやUAEと関連する者もいる。彼らはAIで生成した偽のシーン——英国議会がアラブの伝統衣装の男性に占拠されシャリーア法を施行する様子や、ゴミだらけの通りにスカーフ姿の女性が並ぶ光景——を使い、英国がイスラム化しているかのような印象を与えている。

一部のアカウントは以前「アメリカを再び偉大に（MAGA）」運動を支持する内容を投稿していたが、現在はAIを利用した反移民コンテンツに切り替えている。BBCがインタビューした運営者2人は、「現在の社会文化的傾向が続けば、今後数十年で何が起こり得るかを有権者に知らせる目的がある」と述べ、金銭的な動機は否定した。しかし、他の運営者はInstagramの収益化プログラムを通じて利益を得ていることを認めており、「コメントを集めてフォロワーと収入を増やすために投稿している」と語った。

ロンドン市長のサディク・カーン氏は、こうしたAI生成の嘘がロンドンの評判に悪影響を及ぼし、観光客や留学生、投資家を遠ざけていると指摘。ソーシャルメディア企業に対し、アルゴリズムを修正して分裂を助長するコンテンツを報酬しないようにし、AI生成コンテンツを明確に表示するよう求めた。Meta（FacebookとInstagramの親会社）は「協調的な不誠実な行動を深刻に受け止めており、専門チームが特定と破壊に努めている」とコメントした。

ケンブリッジ大学のサンダー・ファン・デル・リンデン教授は、こうしたAI偽アカウントを「影響力工作の新たな進化形」と表現。一般ユーザーがAIの偽物を見抜く能力は約55％と低く、自分の能力を過大評価する傾向があると警告する。クイーンズ大学ベルファストのイボンヌ・マクダーモット・リース教授は、AIコンテンツを多く見るほど本物の情報に対する信頼が損なわれると述べ、「何がリアルで何がそうでないかを一般の人が自力で判断するのは難しい」と指摘する。

さらに懸念されるのは、一部の視聴者がこれらの偽情報に影響を受けていることだ。あるAI生成抗議動画のコメントには「立ち上がってやるべきことをやれ」といった声が寄せられ、別のユーザーは「おそらくAIだろうが、彼の言うことはすべて正しい」と書き込んでいる。これはAI偽情報が特定の世界観に合致する場合、人々が事実よりも感情で反応する危険性を示している。