Snapchat、他の人気プラットフォームとともに「AIスロップ」対策に参加

Snapchatは、人工知能（AI）ツールで完全に生成された偽の文章や画像、動画を取り締まる動きに加わった。こうしたコンテンツは一般に「AIスロップ」と呼ばれ、テック業界がエッセイからリアルな動画まで何でも作れる生成AIツールを次々と投入するにつれ、オンライン上で急増している。

Snapchatの親会社であるSnapは金曜日、人気のSpotlightフィードで「完全にAI生成された動画」の推奨をやめ、「本物の、人間が作ったコンテンツ」を優先すると発表した。ここ2週間で、YouTube、LinkedIn、Substackも同様の方針を明らかにしている。

SnapはAI生成コンテンツを全面的に禁止するまでには至っていない。同プラットフォームは独自のAIツールを提供しており、AIで「拡張または編集」されたコンテンツは引き続きユーザーへのおすすめに含まれる。一方でSnapは、完全にAI生成されたコンテンツは一般的に「低品質」で「反復的」であり、Snapchatユーザーが求めているものではないと認めている。AI生成コンテンツに対するユーザーの受け止め方を調べた最近の研究でも、こうした評価は概ね支持されている。また別の調査によると、ソーシャルメディアのフィードで偽のAI生成コンテンツを多く見るほど、オンラインで表示されるコンテンツが本物であると考える可能性が低くなる。

他のプラットフォームも対策を進めている。Substackの共同創業者で最高経営責任者のクリス・ベスト氏は先週、「インターネット上で何が本物かを見分けるのはますます難しくなっている」と述べた。同氏は、ニュースレタープラットフォームの読者がAI生成の文章を検出できるようにする新ツールを発表し、ソーシャルメディア上の文章の最大40%が偽物またはAI生成になったとする調査結果を引用して、「偽物に報酬を与えるプラットフォームは、底辺への競争を生み出す」と警告した。

仕事に特化したSNSであるLinkedInは今週、投稿やコメントがAI生成と思われる場合にユーザーが報告できるボタンを導入した。LinkedInのチーフ・プロダクト・オフィサー、ハリ・スリニバサン氏は「AIスロップは私たち全員にとって最優先事項だ」と述べ、ここ数カ月でAI生成コメントを投稿しようとする試みを「数十億件」ブロックしたと明らかにした。「今では毎日、数十万件の自動コメントの試みを捕捉している」という。LinkedInもSnapと同様、AIの利用を完全に否定しているわけではなく、AIツールで投稿を「洗練」させるユーザーは対策の対象にならないとしている。ただし、投稿作成時に表示されるAIで「強化」するという自動プロンプトは廃止し、シンプルな校正ツールに戻す。

Google傘下の動画プラットフォームYouTubeも今月、クリエイターが収益化できるコンテンツのポリシーを更新した。昨年の調査では、YouTube上に完全にAI生成のコンテンツのみで構成されるチャンネルが多数存在し、その多くが数百万人の登録者を抱え、数百万ドルの収益を得ているものもあることが判明した。YouTubeは「不本意なコンテンツ」と見なされる動画で埋め尽くされるのを防ぐため、今月初めに、収益化を認めない動画を「一般的」「反復的」「テンプレート的」の3つのカテゴリーに分類した。こうしたスタイルのコンテンツは生成AIツールを使えば短時間で簡単に作れてしまう。YouTubeの信頼と安全責任者マット・ハルプリン氏は、新しいルールについてのインタビューで、AIツールは人々のコンテンツ制作を支援できる一方で、偽物や低品質な動画を作るために使われることも増えていると述べた。「同じ技術が素晴らしいものをもたらす一方で、いわゆるコンテンツファーミングのようなものも生み出す。それは私たちが望んでいないものだ」と語った。

Snapchatの今回の動きは、ソーシャルメディアプラットフォームがAI生成コンテンツによる信頼の危機にどう対応しようとしているかを示している。AIツールがますます普及する中、各プラットフォームはイノベーションの促進とコンテンツの信頼性維持のバランスを模索している。