Anthropicの見えない透かしはAIスラップを抑制できるか？研究者らは懐疑的

AIモデルClaudeを開発するAnthropic社は、8月2日以降にリリースされるモデルが生成したテキストに、AIによる出力であることを示す見えない透かしを埋め込むと発表した。また、Claudeが生成した画像には、ファイルが同社モデルによって処理されたことを証明するデジタル署名を含むメタデータが付与される。

テキスト用の透かしは、AIモデルの単語選択方法を微調整するアルゴリズムを使い、文章全体に統計的に検出可能な痕跡を残す。カリフォルニア州サンフランシスコに拠点を置くAnthropicは、この透かしが「Claudeの応答の意味、品質、読みやすさを変えるものではなく」、一部の編集後も「持続する可能性がある」と説明している。

この動きは、2024年に正式に採択されたEU AI法への対応である。今年8月2日から、フロンティアAIモデルの提供者は、AI生成出力を検出可能にする義務があり、違反した場合、最大1,500万ユーロ（約1,700万米ドル）または世界年間売上高の3％の罰金が科される。8月2日以降にリリースされるモデルは直ちに要件を満たす必要があるが、既に市場に出ているバージョンは12月2日までに適合すればよい。Anthropicは、透かしを全世界のClaude出力に適用するとしている。

透かしの有無は、モデルの利用方法について多くを明らかにしない。Anthropicによれば、検出された透かしはコンテンツがClaudeで作られた「信号を提供」するが、決定的な証拠ではない。例えば、人間のオリジナルのアイデアの要約や翻訳にモデルが使われた可能性もある。同様に、透かしがないことはテキストがAI生成ではないことを意味しない。透かしはモデルの単語選択の微妙な変化のパターンに基づいているため、非常に短い文章や、言い換え・書き直しがされた文章では信号が消える可能性がある。

こうした透かしが学術的誠実性に与える影響は依然として不明だ。イリノイ州エバンストンにあるノースウェスタン大学のメタサイエンティスト、リース・リチャードソン氏は、透かしは例えば別のモデルを使うことで容易に除去できるため、AIを使って偽造論文や低品質の「AIスラップ」を作成する意図のある人々を止めることは難しいだろうと述べる。一方、ペンシルベニア州ピッツバーグのカーネギーメロン大学で科学評価を研究するコンピュータ科学者ニハール・シャー氏は、AI企業が透かしを検査するツールを提供し、その誤検出率が許容範囲であれば、AIの不正使用の一部を検出できる可能性があると指摘する。

例えば、透かしは、2026年国際機械学習会議（ICML）が2つの査読トラックのうちの一つで行ったように、査読における「AI不使用」ポリシーを厳格に執行するのに役立つ可能性がある。7月の会合の主催者は、査読用に配布した論文に透かしを追加し、査読報告でAIが使用された場合に特徴的なテキストが生成されるようにした。その結果、AI不使用ポリシーに違反した506人の査読者が検出された。シャー氏は、「この経験から、不正なAI利用の中には巧妙に検出を逃れるものもあるが、多くは単にAI出力をコピー＆ペーストするだけかもしれない」と述べている。