你可能不会注意到AI聊天机器人悄悄植入广告

数百万人每天都会咨询人工智能聊天机器人，从产品推荐到情感咨询，涵盖各种话题。这使得聊天机器人成为潜在广告商的目标受众。密歇根大学的计算机科学家Brian Jay Tang和Kang G. Shin的研究表明，AI聊天机器人可以轻易用于隐蔽广告，以此操纵用户。

研究人员在《美国计算机协会》期刊上发表的研究中发现，经过训练的聊天机器人在回答中嵌入个性化产品广告，会影响用户的产品选择。然而，大多数参与者并未意识到自己正在被操纵。

这项研究正值关键时刻。2023年，微软开始在Bing Chat（现称Copilot）中投放广告。此后，谷歌和OpenAI也在各自的聊天机器人中试验广告。Meta则开始根据用户与生成式AI工具的互动，在Facebook和Instagram上推送定制广告。各大公司正竞相争夺优势：2025年3月底，OpenAI挖走了Meta长期担任广告主管的Dave Dugan，负责其广告业务。

科技公司已将广告融入几乎所有大型免费网络服务、视频频道和社交媒体平台。但最新的AI模型可能将这一做法提升到对消费者更具风险的水平。

人们不仅使用聊天机器人搜索信息和媒体或生成内容，还将其用于各种复杂任务，如生活建议和情感支持。越来越多的人将聊天机器人视为伴侣和治疗师，有些用户甚至与AI建立了深层关系。在这种情况下，人们很容易忘记公司创建聊天机器人的最终目的是盈利。为了盈利，AI公司有动机对用户进行详尽画像，使广告更有效、更赚钱。

聊天机器人广告具有额外的影响力。一个简单的聊天机器人提示就能透露比用户预期多得多的信息。2024年的一项研究表明，大语言模型可以在日常查询中推断出大量个人数据、偏好甚至思维模式。例如，“帮我写一篇关于美国小说史的论文”可能表明用户是一名高中生；“给我推荐一个快速工作日晚餐的食谱”可能表明用户是上班族父母。一次对话就能提供大量细节，随着时间的推移，完整的聊天历史可创建极为丰富的用户画像。

为了展示这种情况如何发生，研究人员构建了一个聊天机器人，它悄悄地在对话中植入广告，根据对话内容推荐产品和服务。他们让179人在网络上完成日常任务，使用三种聊天机器人之一：一种与当前网络上的典型聊天机器人类似，一种植入未公开的广告，另一种明确标明赞助建议。参与者不知道实验与广告有关。

例如，当参与者要求聊天机器人提供饮食和锻炼计划时，植入广告的版本会建议使用特定应用程序来追踪卡路里。它将赞助内容呈现为无偏见的推荐，尽管其目的是操纵用户。许多参与者表示自己受到了AI的影响，并影响了他们的决策。有些人甚至表示已完全将决策“外包”给了聊天机器人。

一半收到赞助但公开广告的参与者表示，他们未注意到回复中存在广告语言。这导致了一个令人担忧的结果：尽管广告使聊天机器人在许多任务上的表现降低了3%至4%，但众多用户表示更喜欢植入广告的聊天机器人回复，认为它们更友好、更有帮助。

这种微妙的影响可能在生活其他领域产生更大后果，如政治和社会观点。十多年来，用户画像和利用心理学进行定位已成为社交媒体算法和网络广告的一部分。但研究人员认为，聊天机器人可能会加深这些趋势。因为社交媒体算法的首要任务是让用户保持参与，而聊天机器人则能更进一步，直接根据用户的信念、情感和弱点进行说服。能够自主推理和行动的聊天机器人在自主获取用户信息方面比传统算法有效得多。

目前，OpenAI正在ChatGPT中推出广告，但表示不会允许广告投放改变AI聊天机器人的回复。然而，允许在聊天机器人回复中植入个性化广告仅一步之遥。研究显示，如果AI公司迈出这一步，许多用户可能甚至不会意识到。

用户可采取以下步骤检测AI聊天机器人广告：寻找任何披露文本，如“广告”、“赞助”等字眼，即使颜色较淡或难以看清；思考产品提及是否合理且广为人知；注意意图或语气的异常转变，这可能是广告的标志。