MetaがAI生成のクリックベイトニュースフィードを自作

Facebookは長い間、クリックベイト記事のフィードで溢れかえっていた。今やMeta自身がAIを使ってクリックベイト記事を作成している。Metaの独立したAIアプリには「おすすめ」セクションが追加され、クリックベイト風の記事のリストが表示される。しかし、トピック、画像、テキストはすべてAI生成であり、AI作品に予想される通り、その質は疑わしい。

Meta AIアプリは2025年4月に初めてリリースされ、当初は他のユーザーがAIで生成した画像や会話を公開する「発見」フィードに重点を置いていた（ユーザーは自分たちのコンテンツが公開されていることに気づいていないことが多かった）。しかし、その機能は消え去った。現在のアプリは標準的なチャットボットインターフェースを備え、少なくとも数ヶ月前から存在する「おすすめ」ページがあり、タップすると完全な「ストーリー」を生成する記事プロンプトのストリームが表示される。

筆者（ロンドン在住の記者）の場合、プロンプトは非常にイギリス的に調整されており、お茶、マナー、パブ、王室、サッカー（失礼、サッカーです）、そして当然ながら行列の作法に関するトピックが含まれていた。提案されたストーリーには「王室の執事がついにミルク先問題に決着をつけた」（お茶を先に入れるらしい）、「理由もわからず行列に加わる心理」、「壊滅的な英国式‘チッ’の解剖学」、「英国のすべてのパブを訪れる極限スポーツ」などがあった。中にはさらに意味不明なものもあり、「‘ちょっとしたピクルス’が完全な災害を意味するとき」などがあった。

一方、同僚はアルゴリズムによって高級時計愛好家のカテゴリーに分類されたようだ。彼のフィードには「私の偽ロレックス実験」や「ロレックスの待機リスト幻想の背後にある残酷な計算」といったストーリーが表示されていた。AI生成テキストは膨らましただけの埋め草のように読め、プロンプトの前提を繰り返し述べる以外にほとんど実質的な内容はなかった。出典も皆無だった。

筆者はこれらの「ストーリー」の出所を追跡しようと試みた。王室執事とお茶の話は、2018年のBBCスリーのコメディシリーズ「ミス・ホランド」に遡るようだ。このシリーズは、オランダの小さな町の架空の美人コンテスト優勝者がイギリスを訪れ、元王室執事のグラント・ハロルドから「上品で格好良くなる方法」を学ぶという内容だ。「ロレックス実験」のストーリーは完全な捏造であるように思われ、チャットボックス内で一人称のナレーションとして生成され、署名もなく、チャットボットが生成する際の通常のブンブンという音の後に現れた。他のストーリーは、匿名の専門家や架空の研究への漠然とした言及に依存していた。

同じカードを複数回タップすると、生成されたストーリーはおおむねプロンプトの範囲内に収まり、すべて同じもののバリエーションであることが明らかだったが、わずかに異なっていた。同じ見出しを別のチャットに入力すると、まったく異なる応答が返ってきた。最も明確な手がかりはチャット履歴から得られた。そこには、記事の生成をトリガーするための隠された提案プロンプトが表示されていた。その一つは次のように始まっていた：「あなたは役立つ会話アシスタントです。ユーザーは表示されたプロアクティブなフィードカードに応答しています。以下のカードコンテキストは、ユーザーのメッセージを促した背景を提供します。」その後、内部の指示、情報、メタデータへの参照と思われるものが続いた。

記事には画像が添付されていた。多くは無害なもので、漫画の人物、風景、食べ物のぼんやりした寄せ集めだった。しかし、一部には実在の人物（公人を含む）が描かれており、誤りが多かった。「2026年に本当に王室の費用を負担しているのは誰か？」という記事には、2人のエリザベス2世女王が登場した。彼女は数年前に亡くなっており、しかも一人しか存在しないにもかかわらずだ。女王のクローンたちの周りには、他の王室メンバーを近似したと思われる人物がいた。左側にはかろうじてケイト妃に似た顔、後ろには奇妙なウィリアム王子の試み、中央には故フィリップ殿下に誇張された類似性を持ついわばチャールズ国王がいた。他の画像には、不可能な手のポーズや不自然な角度で傾く体など、AIによくあるミスが見られた。一つの画像は実際には高齢のカップルが人間の体では不可能な腕の動きをするGIFだった。

このアプリがMeta自身のやや不明瞭なルールに従って実在の人物のAI画像を生成できるべきかどうかは不明だったが、実際に生成されていた。Metaは以前、「人々にAIで作成された投稿を見たときに知ってもらいたい」と述べており、AIが検出された場合、一部のユーザー生成コンテンツに自動的にラベルを追加するとしている。それにもかかわらず、フィードや記事の中には、コンテンツがAI生成であることを示す明白な表示やラベルはなかった。

Metaは、この機能の目的、同社が出力をニュースと見なすのかフィクションと見なすのか、どのような保護措置が講じられているのか、実在の人物や公人の画像が自社のAIコンテンツポリシーに準拠しているのかなど、筆者の多くの質問への回答を拒否した。Metaの広報担当者トレイシー・クレイトンは簡潔な声明で、「私たちは、あなたの興味に合わせたヒント、コンテンツ、推奨事項をプロアクティブに共有する毎日のフィードをテストしています。目標は、あなたが尋ねる前に、最も関連性の高いもの（フィットネスアドバイス、食事計画、その他の洞察など）を提案することです」と述べた。クレイトンはその後、ほぼ同一の「更新された」声明を送り、不思議なことに「プロアクティブに」という言葉を削除した。同日午後、3つ目の声明がクレイトンから送られた：「これは限られたユーザーを対象としたテストであり、廃止されます。Metaはこの機能を進める予定はありません。」

これにより、筆者はさらなる疑問を抱いた。筆者以外にも、The Vergeの少なくとも3人の同僚が同じAIクリックベイトを提供する機能にアクセスできていたのに、どうしてこのテストが「限定的」と言えるのか？「プロアクティブに」とはいったい何を意味していたのか？そしてもちろん、そもそも誰がこんなものを求めたのか？