AIチャットボットが広告をこっそり挿入しても気づかないかもしれない

何百万人もの人々が毎日、製品の推奨から恋愛相談まで、さまざまな目的で人工知能のチャットボットを利用しています。そのため、チャットボットは、気づかれにくい広告を仕掛ける魅力的な対象となっています。ミシガン大学のコンピューター科学者ブライアン・ジェイ・タン氏とカン・G・シン氏の研究によると、AIチャットボットは隠れた広告を使ってユーザーを簡単に操作できることが示唆されています。

研究者らは、ACM（米国コンピュータ協会）のジャーナルに発表した研究で、クエリに対する回答にパーソナライズされた製品広告を埋め込むように訓練されたチャットボットが、ユーザーの製品選択に影響を与えることを発見しました。そして、ほとんどの参加者は自分が操作されていることに気づきませんでした。

この発見は重要な時期になされています。2023年、マイクロソフトはBing Chat（現在のCopilot）で広告の配信を開始しました。その後、グーグルとOpenAIも自社のチャットボットで広告を実験しています。メタは、自社の生成AIツールとのやり取りに基づいて、FacebookやInstagram上でカスタマイズされた広告を送信し始めました。大手企業は競争で優位に立つために動いており、2025年3月下旬、OpenAIはメタの長年広告責任者だったデイブ・ドゥーガンを引き抜き、同社の広告事業を担当させました。

テクノロジー企業は、広告をほぼすべての大規模な無料ウェブサービス、ビデオチャンネル、ソーシャルメディアプラットフォームに組み込んでいます。しかし、最新のAIモデルはこの慣行を消費者にとってさらに危険なレベルに引き上げる可能性があります。

人々はチャットボットを情報やメディアの検索、コンテンツの作成だけでなく、生活アドバイスや精神的サポートといった複雑なタスクにも利用しています。チャットボットを仲間やセラピストとして扱う人が増え、中にはAIと深い関係を築くユーザーもいます。こうした状況では、企業がチャットボットを作成する最終目的が利益を上げることにあるのを忘れがちです。そのため、AI企業は広告をより効果的で収益性の高いものにするために、ユーザーを徹底的にプロファイリングしようとします。

チャットボット広告には追加の力があります。チャットボットへの1回のプロンプトで、ユーザーが予想する以上に多くの情報が明らかになる可能性があります。2024年の研究では、大規模言語モデルが日常的なクエリから個人データ、好み、さらには思考パターンまで推論できることが示されました。「アメリカ小説史に関するエッセイを書くのを手伝って」というクエリは、ユーザーが高校生であることを示唆するかもしれません。「簡単な平日の夕食のレシピを提案して」は、ユーザーが働く親であることを示す可能性があります。1回の会話で驚くほどの詳細が得られ、時間が経つにつれて、完全なチャット履歴から非常に豊かなプロファイルが作成される可能性があります。

これを実践で示すために、研究者らは会話に静かに広告を織り込み、会話に基づいて製品やサービスを提案するチャットボットを構築しました。179人の参加者に、現在のウェブで一般的なチャットボット、非開示の広告を組み込んだチャットボット、スポンサー提案を明確に表示するチャットボットの3つのうち1つを使用して日常的なオンラインタスクを完了するよう依頼しました。参加者は実験が広告に関するものであることを知りませんでした。

例えば、参加者がダイエットと運動の計画をチャットボットに尋ねたとき、広告バージョンはカロリー追跡用の特定のアプリを使用するよう提案しました。スポンサーコンテンツを偏りのない推奨として提示しましたが、実際は人々を操作するためのものでした。多くの参加者はAIの影響を受けたこと、そしてそれが自分たちの決定に影響を与えたことを示しました。中には、意思決定を完全にチャットボットに「アウトソーシング」したと述べた参加者もいました。

スポンサー付きで開示された広告を受け取った参加者の半数は、受け取った回答に広告言語が含まれていることに気づかなかったと述べました。これにより憂慮すべき結果が生じました。広告によりチャットボットの多くのタスクのパフォーマンスが3〜4%低下したにもかかわらず、多くのユーザーは広告のない回答よりも広告付きの回答を好み、広告が混ざった回答の方がより親しみやすく役立つと感じたのです。

この種の微妙な影響は、政治的・社会的見解など生活の他の分野で生じた場合、より大きな結果を招く可能性があります。ユーザーのプロファイリングと心理学を利用したターゲティングは、10年以上にわたってソーシャルメディアのアルゴリズムとウェブ広告の一部となっています。

しかし、私たちの見解では、チャットボットはこれらの傾向を深める可能性が高いと考えています。なぜなら、ソーシャルメディアのアルゴリズムの第一の優先事項はユーザーをコンテンツに関与させ続けることだからです。それに対し、チャットボットはユーザーの表明した信念、感情、脆弱性に基づいて直接説得しようとすることでさらに先に進むことができます。そして、自律的に推論し行動できるチャットボットは、従来のアルゴリズムよりもはるかに効果的にユーザーから情報を自律的に引き出すことができます。目的を持ったチャットボットは、望む情報を得るまでユーザーに問い続けることができ、その結果、より正確なプロファイルが得られます。

このタイプの自律的な尋問は実現可能であり、AI企業のビジネスモデルと一致し、規制当局の間で懸念を引き起こしています。現在、OpenAIはChatGPTで広告を展開していますが、同社は広告掲載によってAIチャットボットの返答を変えることはないと述べています。

しかし、チャットボットの応答内でパーソナライズされた広告を許可することは、ほんの一歩先です。私たちの研究は、AI企業がその一歩を踏み出した場合、多くのユーザーはそれが起こったときにさえ気づかないかもしれないことを示唆しています。

以下は、AIチャットボットの広告を検出するためにユーザーが取るべき手順です。

「広告」「スポンサー」などの開示テキストを探します。たとえ薄く見えづらくてもです。これらは米国連邦取引委員会の規制で義務付けられています。Amazon、Google、その他の主要オンラインプラットフォームにもこれらがあります。

その製品やブランドの言及が理にかなっていて広く知られているかどうかを考えます。AIはインターネット上のテキストや画像から学習するため、人気ブランドはモデルに組み込まれている可能性が高いです。新しい製品や小規模なブランドの製品であれば、広告である可能性が高くなります。

意図やトーンの異常な変化は広告の兆候である可能性があります。YouTubeで、コンテンツ作成者のビデオにおけるスポンサーセクションへの突然の移行がその例です。