OpenAI新影像水印使識別AI偽造品更容易——方法如下
OpenAI宣佈為AI生成的影像新增C2PA後設資料和SynthID水印，並推出公開驗證工具，以增強內容來源驗證。新水印嵌入畫素級別，難以去除。
文章情報
要點
- OpenAI現在對所有AI影像使用C2PA後設資料和SynthID水印。
- SynthID在畫素中嵌入不可見訊號，能抵抗裁剪、壓縮和截圖。
- 新的公開驗證工具可幫助使用者識別AI生成內容。
為什麼重要
這條新聞值得關注，因為OpenAI現在對所有AI影像使用C2PA後設資料和SynthID水印。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
OpenAI今日宣佈在其影像生態系統中引入內容來源訊號，即對AI生成的影像進行標記。自2024年起，OpenAI及其他AI工具已開始在影像中嵌入後設資料，但問題是這些標記容易被移除。現在，OpenAI透過新技術提升了影像ID的安全性。
這一切的核心是隱寫術。隱寫術是一種將加密資訊隱藏在顯眼處的技術，使得訊息的加密意圖不易被察覺。早在西元前440年，古希臘歷史學家希羅多德就記載了Histiæus剃光奴隸的頭髮，在頭皮上刺字，等頭髮長出來後訊息便隱藏起來的方法。數字隱寫術則在影像的畫素中嵌入文本資訊，用於嵌入所有權和來源資訊。
OpenAI自2024年起已為DALL-E 3、ImageGen和Sora生成的影像嵌入後設資料。使用者可以透過Content Credentials等工具檢視這些資料。然而，截圖會完全移除原始影像的後設資料，這正是OpenAI和Google試圖解決的問題。
現在，OpenAI成為C2PA（內容來源與真實性聯盟）的合規生成器產品，確保後設資料標準化且安全。同時，OpenAI採用了Google DeepMind的SynthID技術，在影像生成時嵌入不可見的畫素級水印。這種水印在調整大小、裁剪、壓縮和顏色調整後依然存在，甚至能保留在截圖中。SynthID還能在不影響質量的情況下水印文本，但OpenAI尚未在ChatGPT中啟用此功能。
與此同步，OpenAI推出了公開驗證工具（https://openai.com/research/verify/），使用者可以檢查影像是否由OpenAI的AI生成。OpenAI表示：“沒有任何單一來源技術能夠獨當一面。我們相信，結合共享標準、持久水印和公開驗證才是強有力的方法。”未來，我們將測試該工具在組合影像中的表現。例如，如果使用者從ChatGPT生成的影像中取出一部分，與真實照片在Photoshop中合成，該工具能否正確報告AI標記的部分？這需要進一步的測試。總之，OpenAI的這一系列舉措旨在建立一個更加互操作的來源生態系統，以應對AI生成內容帶來的偽造挑戰。