AI詐欺師が偽の黒人アバターを作り、Sheinのジャンク品を販売

TikTok上で、AI生成された黒人女性が手作り製品を販売するという偽のアカウントが急増している。「Aliyah」というキャラクターは、カウボーイ風の服装で金属製ベルトバックルを手作りしていると主張し、涙を流しながら視聴者に助けを求める動画を投稿している。しかし、このAliyahは実在せず、AIによって生成された架空の人物である。彼女が販売するベルトバックルは、実際にはファストファッションサイト「Shein」で同じものが4分の1の価格で販売されている。

The Vergeの調査によると、こうしたAI生成アカウントはTikTokだけで数十件確認され、FacebookやInstagramにも拡散している。製品はベルトバックル以外にも、カウボーイブーツ型マグカップ、かぎ針編みのバッグ、カーディガンなど多岐にわたる。これらのアカウントの特徴として、人物やコメントの応答もAIで自動生成されており、一部はアフリカ系アメリカ人の方言を模倣している。

AI生成メディア研究者のジェレミー・カラスコ氏は、こうした詐欺が毎日最大100件のペースで発見されていると述べる。アカウントはここ2ヶ月以内に作成されたものが多く、脚本もほぼ同一で、マイノリティや弱者の小規模事業者が苦闘するストーリーが使われている。中でも黒人女性のキャラクターが最も多くのエンゲージメントを獲得しており、Aliyahのアカウントだけで4万人のフォロワーを持つ。

ペンシルベニア大学のコミュニケーション研究者シエナ・デイビス氏は、この現象を「デジタルブラックフェイス」と表現する。非黒人がインターネット技術を使って黒人の文化表現を模倣し、経済的利益を得る行為であり、歴史的なブラックフェイス・ミンストレル・ショーに根ざしているという。フィスク大学のテンペスト・M・ヘニング助教授も、アバターの名前がAliyahやAmayaなど黒人を連想させるものの、それ以外に黒人らしさを表す要素はなく、人種的アイデンティティを平坦化していると指摘する。

これらの動画では、視聴者の「美徳シグナル」を刺激する仕掛けがなされている。ヘニング氏によれば、動画の中で白人の女性が製品を嘲笑うシーンが挿入され、視聴者は「自分はそんな人種差別的な白人ではない」と感じ、製品を購入することで連帯を示そうとする。しかし、実際には製品は大量生産品であり、支援の対象は虚構である。

カラスコ氏は、AI生成動画が「ほとんどの人を騙すのに十分なリアリティ」を持っていると推定する。短尺動画プラットフォームのユーザーはスクロールに没頭し、内容を精査しない習慣がついており、その隙を突かれている。また、アルゴリズムはユーザーの興味に基づいてコンテンツを推薦するため、黒人ユーザーには黒人のAIアバターが表示されやすく、騙されるリスクが高まる。

現時点では、AI動画の不自然さ（声と表情の不一致、15秒以上の動画が生成できないことなど）が手がかりとなるが、技術の進歩により将来的にはさらに判別が困難になる。専門家はプラットフォーム側の対策強化とともに、ユーザー自身がメディアリテラシーを高める重要性を訴えている。