AI「コンテンツクリエイター」の見分けが難しくなっている
本記事では、AIインフルエンサーが初期の明らかなデジタル制作物から、今では本物と区別がつきにくくなっている進化について考察する。技術の進歩により、これらの偽の人物はソーシャルメディアにあふれ、商品を売り込み、偽情報を流し、詐欺にも関与している。プラットフォームはAIツールを推進しながらも厳格な規制を嫌い、曖昧な態度を取っている。著者は、一般の怒りと法的圧力の高まりにより、近いうちに規制が行われると予測する。
初期のAIインフルエンサー（Lil Miquela、Imma、Shudu Gramなど）は明らかにデジタル制作物で、見分けるのは容易だった。しかし現在、Emily PellegriniやAitana Lopezのようなキャラクターは、高級レストランやコーチェラから投稿する裕福な友人と見分けがつかない。LopezはスペインのクリエイティブエージェンシーThe Cluelessが作り、Pellegriniの製作者はOnlyFans運営経験を活かし、AIインフルエンサー作成講座を販売している。
技術の向上により、静止画は一見して本物と誤認され、動画や音声も急速にリアルさを増している。GoogleやOpenAIの主流製品、Higgsfield、HeyGen、ElevenLabsなどの専門サービスが利用可能になり、スタジオや高額な費用なしに誰でもAIインフルエンサーを作れる。
プラットフォームはAIコンテンツにラベル付けを義務付けるポリシーを持つが、既存のカテゴリ（詐欺、スパム、なりすまし）に押し込むだけで、AI人物像に適切に対処できていない。彼らは詐欺でもなりすましでもなく、AI生成と開示してもルール違反とは限らない。プラットフォームはAIツールを推進する一方で、低品質なコンテンツの氾濫を防ごうと矛盾した立場をとる。
この曖昧さの中で、AIインフルエンサーのエコシステムは成長している。市場規模は今年120億ドル、2030年には600億ドル超と推定される。AIインフルエンサー賞、美人コンテスト、専属エージェンシー、作成講座の販売などが活況で、一種のゴールドラッシュの様相を呈している。
著者は、AIスロップに対するユーザーの不満が高まり、プラットフォームが利用不可能になる前に、何らかの規制が行われると予測する。欧州のAI法は透明性義務を課し、罰金もあり得る。しかし焦点はあくまでコンテンツであり、アカウントの実在性ではない。最終的にはユーザー自身が見分けるしかなく、AIフリーの空間を求める動きが強まるかもしれない。