Meta 推出AI生成的点击诱饵新闻推送
Meta 在其独立 AI 应用中新增了“为你推荐”板块,利用 AI 生成点击诱饵式的故事、图片和文本。这些内容质量堪忧,存在事实错误和虚构来源,且无 AI 生成标识。Meta 声明这是一次有限测试,并已计划废弃该功能。
长期以来,Facebook 上充斥着点击诱饵文章。如今,Meta 开始利用人工智能自行生产这类内容。Meta 独立的 AI 应用现在增设了一个“为你推荐”板块,为用户推送一系列点击诱饵风格的故事。然而,这些故事的主题、图片和文本均由 AI 生成,其质量之低劣正如人们对 AI 作品的预期。
Meta AI 应用最初于 2025 年 4 月上线,主打一个名为“发现”的公开推送,展示其他用户通过 AI 生成的图片和对话(而这些用户往往并不知情其内容被公开)。如今这一板块已消失。应用目前采用标准的聊天机器人界面,并附有一个已存在至少数月的“为你推荐”页面,显示一系列建议的文章提示,点击后即可生成完整的“故事”。
以笔者为例——一位驻伦敦的记者——这些提示具有强烈的英国特色,涉及茶、礼仪、酒吧、王室、足球(抱歉,是 soccer)以及排队艺术。推荐的故事包括“王室管家终于解决了先加牛奶的争议”(茶先放,据说)、“加入未知队伍的心理”、“毁灭性的英国‘啧啧’声解析”以及“探访每间英国酒吧的极限运动”。有些甚至更离谱,比如“当‘有点麻烦’意味着彻底灾难”。
与此同时,一位同事似乎被算法归类为高端手表爱好者。他的推送中出现了名为“我的假劳力士实验”和“劳力士等候名单错觉背后的残酷数学”的故事。AI 生成的文本读起来像空洞的填充物,除了反复重申提示的前提外,几乎毫无实质内容。来源也完全缺失。
笔者尝试追溯这些“故事”的源头。关于王室管家与茶的故事似乎可追溯到 2018 年 BBC 三台的一部喜剧系列《Miss Holland》,该剧讲述一位荷兰小镇选美皇后前往英国,向真正的前王室管家格兰特·哈罗德学习“如何变得优雅高档”。而“劳力士实验”的故事则似乎完全是编造的,直接在聊天框中以第一人称叙述生成,没有署名,仅凭聊天机器人惯常的几声嗡嗡作响便产生了。其他故事则依赖对未具名专家或虚构研究的模糊引用。
当笔者多次点击同一卡片时,生成的故事大致围绕提示范围,但每次略有不同。将同一标题输入独立聊天框则会产生完全不同的回答。最明显的线索来自聊天记录。它显示了隐藏的建议提示,这些提示本应触发文章生成。其中一个开头写道:“你是一个乐于助人的对话助手。用户正在回应展示给他们的主动推送卡片。下方的卡片上下文提供了触发用户消息的背景”,接着似乎是内部指令、信息和元数据的引用。
这些文章还附带了图片。许多图片无害——卡通人物、风景和食物的模糊拼凑。但有些描绘了真实人物,包括公众人物,且错误百出。“2026 年谁真正为王室买单?”一文中出现了两位伊丽莎白二世女王,尽管她已去世数年,而且现实中只有一位。围绕女王克隆体的是其他王室成员的近似形象:左侧一张模糊类似凯特王妃的脸,后方一个奇怪的威廉王子尝试,中间一位酷似查尔斯国王的人物,却与其已故父亲有夸张的相似。其他图片则带有 AI 常见的破绽,如不可能的手部姿势和以不自然角度倾斜的身体。一张图片实际上是一对老年夫妇跳舞的 GIF,做出的手臂动作是人类身体无法完成的。
目前尚不清楚此应用是否应能根据 Meta 自身较为模糊的规则生成真实人物的 AI 图像,但它的确可以。Meta 此前表示希望“当人们看到用 AI 制作的内容时能够知晓”,并在检测到 AI 时为部分用户生成内容自动添加标签。尽管如此,在推送或文章中没有任何明显指示或标签表明内容由 AI 生成。
Meta 拒绝回答笔者关于该功能目的、公司是否将输出视为新闻或虚构、采取了哪些保障措施,以及真实人物和公众人物的图像是否符合其 AI 内容政策的多数问题。Meta 发言人特雷西·克莱顿在一份简短声明中表示:“我们正在测试一个每日推送,主动分享符合您兴趣的提示、内容和推荐。目标是甚至在您提问之前,就能建议最相关的内容——例如健身建议、膳食计划或其他见解。”克莱顿随后发送了几乎相同的“更新版”声明,神秘地删除了“主动”一词。当日下午,第三份声明称:“这是一项针对有限用户的测试,将被弃用。Meta 没有计划继续推进此功能。”
这留下了更多疑问:除了笔者,《The Verge》至少还有三位同事能访问提供 AI 点击诱饵的相同功能,这如何算作“有限”测试?“主动”究竟意味着什么?当然,最初又是谁要求这一切的呢?