OpenAIの新しい画像ウォーターマークでAI偽物を見分けやすく——その方法

OpenAIは本日、画像エコシステム全体にコンテンツ由来シグナルを導入すると発表しました。つまり、AI生成画像にAI生成であることをタグ付けするのです。これは新しいことではなく、OpenAIや他のAIツールは2024年からメタデータを埋め込んできました。問題は、メタデータのタグ付けが簡単に解除できたことにありました。今回の新機能は、画像IDのセキュリティを強化する高度な技術です。

鍵となるのはステガノグラフィー（隱し書き）です。ステガノグラフィーは、暗号情報を平文の中に隠す技術で、紀元前440年のヘロドトスの記述にも登場します。デジタル画像では、ピクセルの中にテキスト情報を埋め込み、所有権や由来情報を改ざん困難な形で埋め込むことができます。

OpenAIは2024年からDALL-E 3、ImageGen、Soraの画像にメタデータを埋め込んできましたが、スクリーンショットを撮るとメタデータが消失する問題がありました。今回、OpenAIはC2PA（コンテンツ由来と真正性の連合）の準拠ジェネレータ製品となり、メタデータを標準化・安全化しました。同時に、Google DeepMindのSynthID技術を採用し、画像生成時に不可視のピクセルレベルウォーターマークを埋め込みます。このウォーターマークはリサイズ、切り抜き、圧縮、色調整後も残り、スクリーンショットにも転写されます。SynthIDはテキストのウォーターマークも可能ですが、OpenAIはまだChatGPTでは有効化していません。

また、公開検証ツール（https://openai.com/research/verify/）を提供し、画像がOpenAIのAIで生成されたかどうかを確認できます。OpenAIは「単一の来歴技術だけで十分ではありません。共有標準、耐久性のあるウォーターマーク、公開検証を組み合わせた強力なアプローチが重要です」と述べています。今後の実世界でのテストが期待されます。例えば、ChatGPTで生成した画像の一部を実際の写真とPhotoshopで合成した場合、ツールが正しくAIタグを報告できるかどうか、さらなる検証が必要です。OpenAIのこれらの取り組みは、相互運用可能な来歴エコシステムを構築し、AI生成コンテンツによる偽造の課題に対処することを目的としています。