OpenAI新图像水印使识别AI伪造品更容易——方法如下
OpenAI宣布为AI生成的图像添加C2PA元数据和SynthID水印，并推出公开验证工具，以增强内容来源验证。新水印嵌入像素级别，难以去除。
文章情报
要点
- OpenAI现在对所有AI图像使用C2PA元数据和SynthID水印。
- SynthID在像素中嵌入不可见信号，能抵抗裁剪、压缩和截图。
- 新的公开验证工具可帮助用户识别AI生成内容。
为什么重要
这条新闻值得关注，因为OpenAI现在对所有AI图像使用C2PA元数据和SynthID水印。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
OpenAI今日宣布在其图像生态系统中引入内容来源信号，即对AI生成的图像进行标记。自2024年起，OpenAI及其他AI工具已开始在图像中嵌入元数据，但问题是这些标记容易被移除。现在，OpenAI通过新技术提升了图像ID的安全性。
这一切的核心是隐写术。隐写术是一种将加密信息隐藏在显眼处的技术，使得消息的加密意图不易被察觉。早在公元前440年，古希腊历史学家希罗多德就记载了Histiæus剃光奴隶的头发，在头皮上刺字，等头发长出来后消息便隐藏起来的方法。数字隐写术则在图像的像素中嵌入文本信息，用于嵌入所有权和来源信息。
OpenAI自2024年起已为DALL-E 3、ImageGen和Sora生成的图像嵌入元数据。用户可以通过Content Credentials等工具查看这些数据。然而，截图会完全移除原始图像的元数据，这正是OpenAI和Google试图解决的问题。
现在，OpenAI成为C2PA（内容来源与真实性联盟）的合规生成器产品，确保元数据标准化且安全。同时，OpenAI采用了Google DeepMind的SynthID技术，在图像生成时嵌入不可见的像素级水印。这种水印在调整大小、裁剪、压缩和颜色调整后依然存在，甚至能保留在截图中。SynthID还能在不影响质量的情况下水印文本，但OpenAI尚未在ChatGPT中启用此功能。
与此同步，OpenAI推出了公开验证工具（https://openai.com/research/verify/），用户可以检查图像是否由OpenAI的AI生成。OpenAI表示：“没有任何单一来源技术能够独当一面。我们相信，结合共享标准、持久水印和公开验证才是强有力的方法。”未来，我们将测试该工具在组合图像中的表现。例如，如果用户从ChatGPT生成的图像中取出一部分，与真实照片在Photoshop中合成，该工具能否正确报告AI标记的部分？这需要进一步的测试。总之，OpenAI的这一系列举措旨在建立一个更加互操作的来源生态系统，以应对AI生成内容带来的伪造挑战。