英国に関するヘイトフルなAI生成コンテンツを投稿するFacebookページの背後にいるのは誰か？答えは南アジアにあるかもしれない

最新の調査により、英国のFacebookフィードをあふれるヘイトフルなAI生成コンテンツの背後に、南アジアの若者たちがいることが明らかになった。スリランカやパキスタンの若手起業家が、AIツールを使って英国を標的にした扇動的な投稿を大量生産し、利益を得ているのだ。

これらのアカウントは英国旗のプロフィール写真を使い、「Britain Today」など曖昧な名前を名乗り、英国愛国者のように装っている。しかし実際には南アジアの運営者が管理しており、AI生成の動画やノスタルジックな画像、反イスラムのミームなどを投稿している。例えば、あるAI動画では中年男性が「地元のカフェが人を怒らせないために豚肉やベーコンを提供しなくなった」と主張。別の投稿では、ビクトリア朝のロンドンをセピア色の画像で懐かしみ、「当時のロンドンは英国的で、第一世界で、美しかった」と嘆く。さらに、イスラム教を「癌」と呼んだり、公共の場でのムスリムの祈りを「西洋への侵略」と非難したり、「大置換理論」（白人が非白人移民によって意図的に置き換えられているという説）を促進するミームも見られる。

こうしたコンテンツは英国愛国者の手によるものと思われがちだが、実際には南アジアの若者がAIで素早く生成している。彼らはソーシャルメディアのトラフィックと広告収入を利用して、低コストで収益を上げている。調査機関は、この手法が情報環境を汚染し、人種的・宗教的对立を悪化させていると指摘し、プラットフォーム側の効果的な対策を求めている。

この研究は調査報道局のシニアレポーター、ニーアム・マッキンタイア氏が主導した。彼女は、ソーシャルメディア企業がAI生成のヘイトコンテンツを特定・削除するためのより厳格な措置を取るよう呼びかけるとともに、ユーザーが愛国主義を装った偽情報に警戒するよう注意を促している。