AI生成の女性がTikTokでシンガポールに関する偽情報を拡散

シンガポールのニュースメディアCNAの調査によると、TikTok上でAIによって生成された女性「プレゼンター」が、シンガポールとマレーシアの経済、地政学などの重要な問題について流暢な中国語で語る一方、その背後には体系的な偽情報製造ラインが存在することが明らかになりました。

調査対象となった30のTikTokアカウントからは550以上の動画が見つかり、その98%がAI生成、操作、または複製された女性の人格を使用し、再利用された音声とスクリプトを組み合わせていました。これらの動画のうち約90%が虚偽または誤解を招く主張を拡散し、総視聴回数は300万回を超えました。動画は2025年10月から2026年6月にかけて、シンガポールの運命は中国によって左右されるという世界観を繰り返し押し出していました。

最も極端な例では、シンガポールのビビアン・バラクリシュナン外相が、シンガポールの港を迂回する新しい航路を開設しないよう中国とインドネシアに懇願したという虚偽の話が流されましたが、そのような事実はありません。CNAがTikTokに2つのアカウントを報告したところ、数日後にこれらのアカウントは「欺瞞的行為」のルール違反で停止されました。TikTokの広報担当者は、プラットフォームは「システムやコミュニティを操作して公共の議論に影響を与えようとする」アカウントを常に監視し削除していると述べました。

これらの動画は、実際のニュースを餌として使用し、根拠のない主張を挿入していました。例えば、シンガポールの港の支配力が中国の海南自由貿易港の全面稼働により「崩壊」しようとしていると主張するものや、エクソンモービルのシンガポール工場閉鎖をシンガポール衰退の証拠として利用するものがありました。実際には、シンガポールの港は2025年に記録的な4466万個のコンテナを処理し、15年連続で世界第2位の忙しさを誇っています。CNAの以前の調査でも、YouTubeで同様のナラティブが拡散されていることが確認されており、このような作戦は一つのプラットフォームに限られていません。

専門家によると、同じ内容が他のソーシャルメディアプラットフォームでも見られます。南洋理工大学のサイフディン・アハメド准教授は、これらの作戦の目的は信頼を損ない社会の結束を弱めることであり、視聴者が自国政府のナラティブを不信にすることで、外部からの影響を受けやすくなると指摘します。また、国内外の中国語圏のディアスポラも標的となっている可能性があり、投資家が両国の安定性と政治的指向をどう認識するかに影響を与える戦略的価値があると述べました。

調査では、550以上の動画のうち94の動画が一貫して同じ虚偽の主張を繰り返しており、これらの動画だけで視聴回数のほぼ半分（160万回以上）を占めていました。これらの動画は、異なる女性プレゼンターが同じ内容を交代で伝え、独立した意見が同じ結論に達したかのような錯覚を作り出していました。バラクリシュナン外相に関する捏造話だけで、2か月近くにわたって10万回以上視聴されました。

専門家は、低コストで魅力的なAI生成プレゼンターの使用は、エンゲージメントと信頼を高める既知の戦術であると述べています。サイフディン准教授は、「視聴者が魅力的なプレゼンターが前面に出たコンテンツを視聴し、共有し、戻ってくる可能性が高いなら、メッセージの内容に関係なく、それは単純な増幅戦略です」と説明します。動画では、プレゼンターの頭部がほとんど動かず、口の動きと音声が一致しないなどの不自然さが見られ、複数のアカウントで同じ音声トラックが使用され、一括投稿が行われていることから、これらは無関係な個人クリエイターではなく、単一の製造ラインの産物である可能性が高いとしています。しかし、CNAはこの作戦の運営者や依頼主を特定できず、商業的なものか国家と関係があるのかも判断できませんでした。

サイフディン准教授は、AIの痕跡を見つけようとするのは「負けゲーム」だとし、むしろ他の場所で報告されていない繰り返しの主張など、協調行動の「指紋」に気づくことの重要性を強調します。また、人々がこれらの手法に遭遇する前に事前に説明する「プレバンキング」が効果的だと述べ、「特定の主張ではなく方法に対して免疫をつけることがよりスケーラブルです。なぜなら、内容は変わりますが、手法は変わらないからです」と結論付けています。