跳到主要內容
AI News HubLIVE
站內改寫4 分鐘閱讀

Anthropic最新Claude模型包含AI文本水印:這對你意味著什麼?

文章摘要

Anthropic根據歐盟《AI法案》的要求,在Claude系列模型的輸出中加入了不可見的AI文本水印,該水印基於Google DeepMind的SynthID-Text技術。本文解釋了水印的工作原理、其他公司的類似舉措,以及水印對打擊AI濫用(如語音克隆詐騙)的積極意義。

來源O'Reilly AI & ML Radar作者: Bruce Hopkins
Anthropic最新Claude模型包含AI文本水印:這對你意味著什麼?
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

如果你在 O'Reilly 直播培訓平臺上擔任講師,就必須隨時準備應對突發狀況。作為一名開發者,我想我們都能理解這種情形:一個演示程式(就是你已經在自己的機器上測試過上千次的那個)在向現場觀眾演示時,偏偏自己決定出岔子。我們都有過這樣的經歷。當然,這個等式裡最大的變數是任何課程中的現場問答環節,因為我們積極鼓勵課程參與者提出他們心中的任何問題。

在 Anthropic 宣佈將在其最新模型的所有文本輸出中加入 AI 水印之後不久,我在一門與 Claude 智慧體(Claude Agents)完全無關的課程問答環節中被問題淹沒了。幾乎所有在問答框中提問的人都想更多地瞭解 AI 水印是如何工作的,以及它將如何影響他們。

鑑於這種興趣,我藉此機會幫助解釋水印對你意味著什麼。

Anthropic 官方宣佈了什麼?

我不想替任何人說話,所以我直接逐字引用 Anthropic 在 2026 年 8 月公告中的原話:

“未來的 Claude 模型將生成包含水印的文本。這是一種判斷 Claude 是否參與撰寫文本的可能性的方法,我們與其他幾家主要 AI 提供商一道實施這一變更,以遵守歐盟《人工智慧法案》(EU AI Act)。”

同一份公告中還有另一段引述:

“水印不會只針對 Claude。自 8 月 2 日起,歐盟要求在其市場提供服務的 AI 提供商標記 AI 生成的內容。其他主要模型開發商已簽署同一份《實踐準則》(Code of Practice),並將實施各自的水印。”

在撰寫本文時,在所有生成的輸出中都包含 AI 文本水印的 Claude 模型列表如下:

Claude Mythos 5.1

Claude Fable 5.1

Claude Fable 5

Claude Opus 5.5

Claude Opus 5

Claude Opus 4.8

Claude Sonnet 5.5

Claude Sonnet 5

Claude Haiku 5.5

無論你使用 Claude Desktop、Claude Code 還是 API 都無關緊要,因為 Claude 的所有輸出都將包含 AI 水印。因此,你使用 Claude 編寫的任何程式碼、電子郵件、部落格、文章、通訊或白皮書都將包含水印,任何擁有 AI 水印檢測器的人都能輕易判斷該內容是否為 AI 生成。

密碼學與隱寫術有什麼區別?

現在讓我們談談兩個相關的術語,它們適用於我們在 AI 水印方面所處理的問題:密碼學(cryptography)與隱寫術(steganography)。密碼學是你每天都會遇到的東西,比如當你訪問使用 HTTPS 而非 HTTP 的網站時。你的網路瀏覽器會自動處理加密和解密,但它所做的只是讓你傳送或接收的任何內容在沒有解密金鑰的情況下變得無法理解。因此,你可以(例如)安全地輸入信用卡資訊來訂閱 O'Reilly 服務,因為我們(像網際網路上所有其他主要網站一樣)在網站上使用 HTTPS,以確保任何外部人員都無法獲取你的信用卡資訊。所以,如果不法分子攔截了你透過 HTTPS 連線傳送的內容,其內容將是加密的、毫無意義的。

隱寫術則完全不同,它正是 Claude AI 水印技術所使用的方法。隱寫術關乎把某樣東西藏在正確的地方,供知道去哪裡尋找的人發現。隱寫術不是密碼學,因為訊息的一切都擺在明面上。但是,你必須更深入地觀察訊息本身,才能找到被隱藏或模糊的內容。最常見的例子是大面額紙幣(比如 100 美元鈔票)。如果你把鈔票對著光舉起,就會看到一條“安全線”以及本傑明·富蘭克林頭像的水印。

那麼,從技術上講,AI 水印究竟是如何工作的?

Claude AI 水印使用一種基於 Google DeepMind 開源專案 SynthID-Text 的隱寫術。SynthID-Text 是一種隱寫術形式,因為訊號(你要尋找的資訊)隱藏在看似普通的段落的用詞選擇之中。因此,你可以把 AI 生成的程式碼複製/貼上到你最喜歡的程式碼編輯器中,或者把 AI 生成的段落放進 Word 文件、電子郵件或 Slack 訊息中,AI 水印都會隨之而來。

據 Anthropic 稱,水印只改變了模型在近義詞彙之間進行選擇時所使用的隨機性來源,因此文本中沒有任何新增。AI 生成的文本中沒有插入隱藏字元,也沒有消耗額外的 token。此外,水印不攜帶任何關於你的資訊。這僅僅意味著 AI 水印檢測器可以判斷文本是否為 AI 生成,但無法確定使用了誰的 Claude 賬戶來生成該文本。

SynthID-Text 使用一種稱為“錦標賽取樣”(tournament sampling)的技術。在每個位置,模型抽取若干候選 token,並讓它們透過本質上是一個淘汰賽的流程。每一輪的勝者由一個偽隨機分數(g 值)決定,該分數來自將前幾個 token 與一個金鑰一起雜湊。在一段有數百個詞的文本中,文本最終會略微偏向具有高 g 值的 token,形成一種只有金鑰持有者才能看到的模式,而你透過閱讀永遠無法察覺。

“略微偏向”是這裡的關鍵短語。例如,在“big”和“large”這兩個詞之間的選擇不會改變大多數句子的含義,因此將這一選擇推向兩者之一,不會以任何你能注意到的方式改變你的文本。Google 在大約 2000 萬條 Gemini 回覆上測試了這一點,點贊率相差 0.01%(帶水印的模型略佔優勢)。

還有誰在對 AI 生成內容加水印?

如前所述,Anthropic 對其內容加 AI 水印的決定是由 2026 年生效的歐盟法律法規所強制的。Anthropic 並不是唯一遵守該規定的公司,根據歐盟委員會網站,已有數百家公司同意遵守要求 AI 水印的法規。

例如,OpenAI 最近宣佈支援對 AI 生成的輸出加水印。以下是其公告中的一段引述:

“在未來幾周內,我們將為歐盟境內符合條件的 ChatGPT 和 Codex 文本輸出新增不可見水印。”

OpenAI 的文本水印技術名為“textGrain”,其靈感來自在一粒米上書寫文字的藝術。現在,你可能會問自己:“需要多少 AI 文本才能放置水印本身?”好訊息是,OpenAI 公佈了他們自己的 AI 文本水印檢測測試統計資料。他們的 AI 文本水印檢測器對包含 400 個 token 的段落具有 95% 的準確率。這讓你瞭解到,只需幾段文字就足以嵌入水印。

然而,由於歐盟的強制規定適用於 AI 生成內容(不僅僅是文本),OpenAI 更進一步,釋出了一個網站,讓任何人都能知道他們的模型是否生成了非文本媒體,例如影像和音訊。我自己試過這個網站,它能在幾秒鐘內正確識別出水印。

規定 AI 水印的法規並不只是歐盟的事。加利福尼亞州的 SB-942《人工智慧透明度法案》(California AI Transparency Act)也要求對 AI 生成內容加水印。這些法規結合起來,不僅適用於 AI 生成的文本,也適用於影像、音訊和影片。

Google 的模型輸出也包含 AI 水印

Google 多年前就遵守了歐盟《人工智慧法案》,因此其模型自 2024 年起就包含 SynthID 文本水印。不過,他們效仿 OpenAI,釋出了一個公共網站 SynthID.com,讓任何人都能檢查任何非文本媒體(如影像、音訊和影片)是否包含 SynthID AI 水印。Google 的 AI 水印檢測器允許你檢查來自多個 AI 提供商的水印,例如 OpenAI、Nvidia、Kakao,當然還有 Google 自己。

為所有 AI 生成內容加水印未必是壞事

在我最近的經歷中,我曾為一家正在進行風險投資支援融資輪的公司擔任顧問。在融資公開宣佈後,公司某些人開始接到“CEO”的聯絡,對方以某種編造的情況為由,要求他們從個人賬戶進行銀行轉賬。實際上,這是一群騙子利用 LinkedIn 找到公司員工姓名,然後冒充 CEO,讓員工把錢匯入騙子的銀行賬戶。我們大多數人都足夠懂技術,明白這是一個由不法分子驅動的明顯騙局。騙子暴露了自己,因為他們使用的電子郵件域名並不屬於這家初創公司,所以在這個案例中,欺詐企圖很容易被檢測到。

然而,如今的技術只需少量的人聲樣本就能輕鬆實現語音克隆。那麼,如果攻擊者決定利用 AI 克隆 CEO 的聲音,進行更復雜的“魚叉式網路釣魚”(spear phishing)攻擊呢?如果假 CEO 開始給人打電話(而不是發郵件)呢?這可能導致更糟糕的情況:員工以為自己是在與 CEO 互動(並服從其指令),並感到有義務去做可能帶來嚴重財務後果的事情。

這對你意味著什麼

所有主要的大語言模型都在其 AI 生成內容中加入水印,而且由於近期的法規,這一趨勢不會消失。如今,不法分子可以利用 AI 對公眾發動嚴重攻擊,因此對任何 AI 生成內容(文本、影像、音訊或影片)加 AI 水印,是判斷真實性的非常有用的工具。

如果你想親自觀看 AI 水印如何被應用和檢測的現場演示,請務必參加 O'Reilly 的課程《理解 AI 文本水印》(Understanding AI Text Watermarking)。

展開要點與分析

文章情報

工程師中級

要點

  • Anthropic自2026年8月起在Claude Mythos、Fable、Opus、Sonnet、Haiku等模型中全面嵌入文本水印,以符合歐盟《AI法案》。
  • 水印採用隱寫術(steganography)而非密碼學,透過微調近義詞選擇嵌入訊號,不增加額外令牌,也不包含使用者資訊。
  • OpenAI的textGrain和Google的SynthID等水印技術也已推出,並提供公開檢測工具;加州SB-942法案同樣要求AI內容水印。
  • 水印有助於識別AI生成內容,防範深度偽造和語音克隆等詐騙行為,但檢測準確率受文本長度影響。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。