Facebook、1ヶ月前にフラグが立てられたAIによる極右影響力キャンペーンに何の措置も取らず

Facebook傘下のプラットフォームで、「Life in Britain」というページがAI生成の政治的に分裂を煽る動画を大量に公開していることが明らかになった。移民や農業政策など敏感な話題を扱ったこれらの動画はすでに数百万回の視聴を集めている。懸念されるのは、『インディペンデント』紙が1ヶ月前にこのページをFacebookに通報したにもかかわらず、現在まで何の措置も取られていない点だ。動画にはAI生成であることを示すラベルも付いていない。

Facebookの透明性情報によると、ページ管理者は英国から5000マイル以上離れたスリランカに拠点を置いている。ディープフェイク検出企業Resemble AIの分析では、これらの動画は97%の確率でAIによって生成されており、不自然な音声や歪んだ顔などの特徴が見られた。同社の創業者Zohaib Ahmed氏は、これは外部の主体によるソーシャルエンジニアリング攻撃に似ており、AIコンテンツがソーシャルメディアのアルゴリズムによって瞬時に拡散されると警告する。

キングス・カレッジ・ロンドン戦争研究学科の客員上級研究員Lukasz Olejnik博士は、AI生成の影響力・プロパガンダコンテンツの増加を指摘し、特にAI生成動画は偽の視覚的証拠を作り出し、感情に訴えやすく、迅速な検証が困難であると述べた。彼は英国にとって、単一の偽動画を信じるリスクだけでなく、繰り返しの露出によって制度やジャーナリズム、選挙への信頼が損なわれる危険性を強調した。

こうした問題はすでに現実の影響を及ぼしている。2024年夏のサウスポート暴動では、AI生成画像がイスラム教徒を脅威として描き、極右アカウントによって拡散された。ロンドン・スクール・オブ・エコノミクスの研究では、人種差別的な陰謀論を視覚的に描いたソーシャルメディア投稿は、他の投稿よりも30%多く増幅されることが明らかになった。ロンドン市長サディク・カーン氏は先月、首都に対する「執拗かつ前例のない嘘と憎悪の攻撃」に対抗するため、700万ポンドを投入すると表明した。

Metaの独立監督委員会は今年初め、AI生成コンテンツへのラベル付けをより積極的に行い、検出ツールを強化するよう勧告している。英国科学・イノベーション・技術省は、プラットフォームには違法コンテンツに対処する法的義務があると述べた。Facebookはヘイトスピーチや誤情報を禁止する明確なガイドラインを持つと主張しているが、今回の件では調査中と述べるにとどまっている。一方で、BBCウェールズがベトナムの「コンテンツファーム」が英国政治に関する偽情報を拡散していることを報じた後、Facebookは該当ページを削除している。「Life in Britain」ページの所有者からのコメントは得られていない。