谷歌让深度伪造检测更加普及：Chrome和搜索将集成AI标记识别

谷歌正在将其AI检测能力扩展到Chrome和搜索，旨在让用户更容易识别深度伪造内容。在今天的Google I/O大会上宣布的更新涵盖了谷歌DeepMind研发的隐形水印技术SynthID，以及嵌入C2PA内容凭证的内容，使这两个系统对用户更加开放，帮助了解所看内容是如何制作或篡改的。

首先，谷歌表示，带有SynthID标记的图像验证功能即日起将进入搜索功能，包括Google Lens、AI模式和圈选搜索。用户上传或选择在线图像后，可以了解图像的来源信息。Chrome的支持预计“在未来几个月内”推出。谷歌称Chrome扩展由Gemini驱动，用户可通过选择或圈选浏览器页面上的图像，在右侧面板询问“这是AI制作的吗？”或“这是AI生成的吗？”。

SynthID对图像、视频和音频内容的验证已可通过Gemini应用使用。此次扩展到Chrome和搜索目前仅支持图像，但谷歌表示计划未来扩展到其他内容类型。

作为更新的一部分，谷歌的验证界面将同时检查内容是否包含C2PA内容凭证和SynthID标记。这意味着用户现在可以从单一界面检查这两个系统的来源信息，而不必在Gemini和专门的C2PA检查器之间切换，从而简化深度伪造检测流程。C2PA验证今日在Gemini应用中推出，搜索和Chrome支持将在未来几个月内跟进。

这并不是谷歌扩展C2PA的唯一努力——Pixel 10手机拍摄的图像已嵌入此元数据，现在Pixel 8、9和10手机将在未来几周内为视频文件也添加该功能。谷歌还表示，Meta将开始在Instagram上使用C2PA标记相机拍摄的媒体，但Meta尚未回应对此功能的更多信息请求。同时，更多由OpenAI、Kakao和ElevenLabs生成的AI内容将支持谷歌的SynthID水印，但谷歌未说明具体覆盖哪些模型或内容。

此外，谷歌云为Gemini企业代理平台推出了新的AI内容检测API，旨在让组织更容易识别AI生成的媒体。谷歌表示，该功能将与一组未指定的可信合作伙伴一起推出，并将根据他们的反馈进行调整。谷歌在公告中称：“这为企业提供了一种强大的方式，来识别由谷歌和其他流行模型制作的AI内容，帮助他们决定如何跨平台评估和管理媒体——无论是用于后端操作，如分类信息流和防止保险欺诈，还是面向用户的内容，如事实核查和标记合成媒体。”

这些扩展应有助于让AI检测对企业和普通网络用户都更加便捷。Chrome扩展尤其引人注目，因为它是全球使用最广泛的浏览器——许多在线平台并不原生标注AI内容，因此这提供了一种更简单的变通方法，无需保存图像并手动上传到专门的C2PA和SynthID检测界面。

然而，谷歌DeepMind副总裁Pushmeet Kohli告诉The Verge，谷歌已取消推出专用SynthID验证门户的计划。至少对于谷歌自己的系统而言，这意味着SynthID标记可能只能通过Gemini驱动的平台识别，迫使人们使用谷歌自己的AI工具来识别由谷歌模型生成的AI内容。这可能不会受到希望完全避免与生成式AI系统互动的用户的欢迎。