Meta推出了自己的AI检测系统，但它本应使用谷歌的

今年三月，Meta的监督委员会敦促该公司“履行公开承诺，利用自身工具”来遏制欺骗性生成式AI内容在平台上的传播。Meta在七月做出了回应，推出了Content Seal——一种隐形水印技术，用于标记由其新AI模型生成的图像。但这基本上是该公司在发布Muse图像和视频生成工具时的一个脚注。

作为一个花大量时间审查AI标签系统的人，Content Seal并没有给我带来信心。已有更成熟的解决方案，如C2PA内容凭证和谷歌的SynthID，Meta本可以使用这些方案，而不是在更晚的时候推出自己的系统。在深入了解Meta为何推出自有系统后，我不认为Meta已经考虑周全。

根据Meta的描述，Content Seal的工作方式与SynthID类似。这种水印对人类肉眼不可见，提供了嵌入AI生成图像中的“隐藏来源信号”，然后可以通过检测工具扫描和标记，帮助在线用户区分深度伪造和真实内容。与SynthID一样，Meta也表示Content Seal水印在图像被“裁剪、压缩、调整大小或截屏”后仍然完好无损并可被检测到。

那么，既然Content Seal功能上与SynthID相同……为什么不直接采用SynthID呢？Meta已经是内容来源与真实性联盟（C2PA）的指导委员会成员，该联盟与谷歌一起推广独立的Content Credentials标准，这表明Meta愿意与他人合作解决日益严重的AI检测问题。同时，SynthID已经被OpenAI采用，所以谷歌显然也愿意向竞争对手AI提供商开放其技术，以提高透明度。

尽管与谷歌的系统有相似之处，但Content Seal目前存在若干限制。目前，用户只能通过Meta正在测试的专用网络工具检测Content Seal水印，这意味着Meta没有像谷歌将检测功能集成到Gemini那样将其构建到Meta AI聊天机器人中。但这种情况可能会改变。Meta发言人Faith Eischen告诉The Verge，公司正“探索将检测功能带到人们遇到AI生成内容的地方”。考虑到这正是AI检测最需要的地方，而且已经有一段时间了，为什么在发布时没有提供呢？

水印目前仅应用于Meta AI应用和Meta.ai网站上由Muse生成的图像，这意味着在线用户无法用它来检测由Meta旧AI模型生成的内容。对生成视频的支持也没有提供，不过Meta表示“很快”就会推出。

Meta通过其检测工具对检查Content Seal水印的次数设置了每日限制。Eischen表示，这个速率限制旨在支持“正常使用”，同时保护检测系统不被滥用。Meta没有澄清这种滥用具体是什么样子——大概是试图破解系统以逃避水印内容的检测——但谷歌和OpenAI的检测工具也有类似的速率限制。C2PA是唯一没有限制用户检查内容次数的系统。任何检测限制都感觉与大规模提高AI透明度的目标相悖，因此这似乎是Meta系统错失了比SynthID做得更好的机会。

在Meta自己的平台如Facebook和Instagram上，Eischen表示，除了Content Seal水印外，还使用了未指定的元数据来帮助用户识别AI生成内容。当我问Meta是否指示其他在线平台（如TikTok和LinkedIn）如何检测Content Seal时，Eischen说公司“决心与行业同行合作，确保用户获得最佳体验。”

这表明对该标准的更广泛支持仍在进行中，这可能妨碍Muse生成的图像在Meta平台之外被有效标记。当我将一个用Meta的Muse模型制作的测试图像输入Gemini和官方C2PA检测门户时，两个工具都无法确认它是AI生成的。还有一个问题是，Content Seal能否与SynthID和Content Credentials同时应用于图像和视频文件而不干扰其他标准。Meta没有对此提供任何公开澄清。

“像其他公司一样，我们根据自身的技术规格和产品构建了Content Seal。解决生态系统问题需要多种方法协同工作，我们很高兴为此做出贡献，”Eischen说。“我们很快将分享更多关于Content Seal的信息。”

鉴于Content Seal只能检测使用Meta最新AI模型生成的图像，我不禁想知道这家公司一直在做什么。Meta自2023年起就提供AI图像生成工具，因此它已经产生了大量无法被其自有系统检测的虚假内容。同年，它还在Instagram和Facebook上引入了AI标签，但错误地将真实照片标记为“由AI制作”，激怒了许多摄影师。

三年过去了，Meta仍然不确定如何将自己定位为AI内容的生产者和识别者，尤其是在其自有平台上。甚至Meta的高层领导似乎也对下一步该怎么做感到困惑。

在接受Lenny Rachitsky播客采访时，Instagram负责人Adam Mosseri最初认同那些不喜欢AI生成内容的人应该被允许将其从社交信息流中移除——这听起来很像需要可靠AI标签系统的过滤功能。他甚至暗示，真实性本身将变得更有价值，因为AI无法提供。

“在一个合成内容丰富的世界里，我认为人们实际上会更多地寻求创造力、真实性和人与人之间的联系，而不是减少，”Mosseri说。

然而，在同一采访中，Mosseri说“我认为我们不应该过滤掉AI内容”，同时确认“我们应该让用户知道内容是否是AI生成的。”Mosseri还重申了他之前表达过的观点，即“对真实媒体进行指纹识别可能比对虚假媒体更实际。”这听起来不像Meta对自己开发可行的AI标签系统有信心。从将其社交平台变成“虾耶稣”等生成式网络垃圾的工厂以来，Meta有足够的时间，但Content Seal的发布仍然感觉像是仓促推出的。

它对消费者来说没有提供比类似且成熟的SynthID系统更多的好处，反而创造了另一个人们必须经过的环节来验证AI内容。也许Meta本应像OpenAI那样直接采用谷歌的水印标准。如果那样的话，Facebook和Instagram用户可能会更好。Eischen告诉我，Meta多年来一直贡献开源水印研究，所以它并非一夜之间就搞出了这项技术，但我期望看到更好的消费者体验。

如果Meta想坚持自己的解决方案，它需要的不仅仅是一个不成熟的SynthID克隆来证明其对AI透明度的认真态度——至少需要更可靠的系统。路透社已经发现，Content Seal在检测经过裁剪的Muse生成图像时，失败率超过一半。