OpenAI新圖像水印使識別AI偽造品更容易——方法如下
OpenAI宣佈為AI生成的圖像添加C2PA元數據和SynthID水印，並推出公開驗證工具，以增強內容來源驗證。新水印嵌入像素級別，難以去除。
文章情報
要點
- OpenAI現在對所有AI圖像使用C2PA元數據和SynthID水印。
- SynthID在像素中嵌入不可見信號，能抵抗裁剪、壓縮和截圖。
- 新的公開驗證工具可幫助用户識別AI生成內容。
為甚麼重要
這條新聞值得關注，因為OpenAI現在對所有AI圖像使用C2PA元數據和SynthID水印。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
OpenAI今日宣佈在其圖像生態系統中引入內容來源信號，即對AI生成的圖像進行標記。自2024年起，OpenAI及其他AI工具已開始在圖像中嵌入元數據，但問題是這些標記容易被移除。現在，OpenAI通過新技術提升了圖像ID的安全性。
這一切的核心是隱寫術。隱寫術是一種將加密信息隱藏在顯眼處的技術，使得消息的加密意圖不易被察覺。早在公元前440年，古希臘歷史學家希羅多德就記載了Histiæus剃光奴隸的頭髮，在頭皮上刺字，等頭髮長出來後消息便隱藏起來的方法。數字隱寫術則在圖像的像素中嵌入文本信息，用於嵌入所有權和來源信息。
OpenAI自2024年起已為DALL-E 3、ImageGen和Sora生成的圖像嵌入元數據。用户可以通過Content Credentials等工具查看這些數據。然而，截圖會完全移除原始圖像的元數據，這正是OpenAI和Google試圖解決的問題。
現在，OpenAI成為C2PA（內容來源與真實性聯盟）的合規生成器產品，確保元數據標準化且安全。同時，OpenAI採用了Google DeepMind的SynthID技術，在圖像生成時嵌入不可見的像素級水印。這種水印在調整大小、裁剪、壓縮和顏色調整後依然存在，甚至能保留在截圖中。SynthID還能在不影響質量的情況下水印文本，但OpenAI尚未在ChatGPT中啓用此功能。
與此同步，OpenAI推出了公開驗證工具（https://openai.com/research/verify/），用户可以檢查圖像是否由OpenAI的AI生成。OpenAI表示：“沒有任何單一來源技術能夠獨當一面。我們相信，結合共享標準、持久水印和公開驗證才是強有力的方法。”未來，我們將測試該工具在組合圖像中的表現。例如，如果用户從ChatGPT生成的圖像中取出一部分，與真實照片在Photoshop中合成，該工具能否正確報告AI標記的部分？這需要進一步的測試。總之，OpenAI的這一系列舉措旨在建立一個更加互操作的來源生態系統，以應對AI生成內容帶來的偽造挑戰。