如果你在 O'Reilly 直播培訓平台上擔任講師,就必須隨時準備應對突發狀況。作為一名開發者,我想我們都能理解這種情形:一個演示程序(就是你已經在自己的機器上測試過上千次的那個)在向現場觀眾演示時,偏偏自己決定出岔子。我們都有過這樣的經歷。當然,這個等式裏最大的變量是任何課程中的現場問答環節,因為我們積極鼓勵課程參與者提出他們心中的任何問題。
在 Anthropic 宣佈將在其最新模型的所有文本輸出中加入 AI 水印之後不久,我在一門與 Claude 智能體(Claude Agents)完全無關的課程問答環節中被問題淹沒了。幾乎所有在問答框中提問的人都想更多地瞭解 AI 水印是如何工作的,以及它將如何影響他們。
鑑於這種興趣,我藉此機會幫助解釋水印對你意味着什麼。
Anthropic 官方宣佈了什麼?
我不想替任何人説話,所以我直接逐字引用 Anthropic 在 2026 年 8 月公告中的原話:
“未來的 Claude 模型將生成包含水印的文本。這是一種判斷 Claude 是否參與撰寫文本的可能性的方法,我們與其他幾家主要 AI 提供商一道實施這一變更,以遵守歐盟《人工智能法案》(EU AI Act)。”
同一份公告中還有另一段引述:
“水印不會只針對 Claude。自 8 月 2 日起,歐盟要求在其市場提供服務的 AI 提供商標記 AI 生成的內容。其他主要模型開發商已簽署同一份《實踐準則》(Code of Practice),並將實施各自的水印。”
在撰寫本文時,在所有生成的輸出中都包含 AI 文本水印的 Claude 模型列表如下:
Claude Mythos 5.1
Claude Fable 5.1
Claude Fable 5
Claude Opus 5.5
Claude Opus 5
Claude Opus 4.8
Claude Sonnet 5.5
Claude Sonnet 5
Claude Haiku 5.5
無論你使用 Claude Desktop、Claude Code 還是 API 都無關緊要,因為 Claude 的所有輸出都將包含 AI 水印。因此,你使用 Claude 編寫的任何代碼、電子郵件、博客、文章、通訊或白皮書都將包含水印,任何擁有 AI 水印檢測器的人都能輕易判斷該內容是否為 AI 生成。
密碼學與隱寫術有什麼區別?
現在讓我們談談兩個相關的術語,它們適用於我們在 AI 水印方面所處理的問題:密碼學(cryptography)與隱寫術(steganography)。密碼學是你每天都會遇到的東西,比如當你訪問使用 HTTPS 而非 HTTP 的網站時。你的網絡瀏覽器會自動處理加密和解密,但它所做的只是讓你發送或接收的任何內容在沒有解密密鑰的情況下變得無法理解。因此,你可以(例如)安全地輸入信用卡信息來訂閲 O'Reilly 服務,因為我們(像互聯網上所有其他主要網站一樣)在網站上使用 HTTPS,以確保任何外部人員都無法獲取你的信用卡信息。所以,如果不法分子攔截了你通過 HTTPS 連接發送的內容,其內容將是加密的、毫無意義的。
隱寫術則完全不同,它正是 Claude AI 水印技術所使用的方法。隱寫術關乎把某樣東西藏在正確的地方,供知道去哪裏尋找的人發現。隱寫術不是密碼學,因為消息的一切都擺在明面上。但是,你必須更深入地觀察消息本身,才能找到被隱藏或模糊的內容。最常見的例子是大面額紙幣(比如 100 美元鈔票)。如果你把鈔票對着光舉起,就會看到一條“安全線”以及本傑明·富蘭克林頭像的水印。
那麼,從技術上講,AI 水印究竟是如何工作的?
Claude AI 水印使用一種基於 Google DeepMind 開源項目 SynthID-Text 的隱寫術。SynthID-Text 是一種隱寫術形式,因為信號(你要尋找的信息)隱藏在看似普通的段落的用詞選擇之中。因此,你可以把 AI 生成的代碼複製/粘貼到你最喜歡的代碼編輯器中,或者把 AI 生成的段落放進 Word 文檔、電子郵件或 Slack 消息中,AI 水印都會隨之而來。
據 Anthropic 稱,水印只改變了模型在近義詞彙之間進行選擇時所使用的隨機性來源,因此文本中沒有任何添加。AI 生成的文本中沒有插入隱藏字符,也沒有消耗額外的 token。此外,水印不攜帶任何關於你的信息。這僅僅意味着 AI 水印檢測器可以判斷文本是否為 AI 生成,但無法確定使用了誰的 Claude 賬户來生成該文本。
SynthID-Text 使用一種稱為“錦標賽採樣”(tournament sampling)的技術。在每個位置,模型抽取若干候選 token,並讓它們通過本質上是一個淘汰賽的流程。每一輪的勝者由一個偽隨機分數(g 值)決定,該分數來自將前幾個 token 與一個密鑰一起哈希。在一段有數百個詞的文本中,文本最終會略微偏向具有高 g 值的 token,形成一種只有密鑰持有者才能看到的模式,而你通過閲讀永遠無法察覺。
“略微偏向”是這裏的關鍵短語。例如,在“big”和“large”這兩個詞之間的選擇不會改變大多數句子的含義,因此將這一選擇推向兩者之一,不會以任何你能注意到的方式改變你的文本。Google 在大約 2000 萬條 Gemini 回覆上測試了這一點,點贊率相差 0.01%(帶水印的模型略佔優勢)。
還有誰在對 AI 生成內容加水印?
如前所述,Anthropic 對其內容加 AI 水印的決定是由 2026 年生效的歐盟法律法規所強制的。Anthropic 並不是唯一遵守該規定的公司,根據歐盟委員會網站,已有數百家公司同意遵守要求 AI 水印的法規。
例如,OpenAI 最近宣佈支持對 AI 生成的輸出加水印。以下是其公告中的一段引述:
“在未來幾周內,我們將為歐盟境內符合條件的 ChatGPT 和 Codex 文本輸出添加不可見水印。”
OpenAI 的文本水印技術名為“textGrain”,其靈感來自在一粒米上書寫文字的藝術。現在,你可能會問自己:“需要多少 AI 文本才能放置水印本身?”好消息是,OpenAI 公佈了他們自己的 AI 文本水印檢測測試統計數據。他們的 AI 文本水印檢測器對包含 400 個 token 的段落具有 95% 的準確率。這讓你瞭解到,只需幾段文字就足以嵌入水印。
然而,由於歐盟的強制規定適用於 AI 生成內容(不僅僅是文本),OpenAI 更進一步,發佈了一個網站,讓任何人都能知道他們的模型是否生成了非文本媒體,例如圖像和音頻。我自己試過這個網站,它能在幾秒鐘內正確識別出水印。
規定 AI 水印的法規並不只是歐盟的事。加利福尼亞州的 SB-942《人工智能透明度法案》(California AI Transparency Act)也要求對 AI 生成內容加水印。這些法規結合起來,不僅適用於 AI 生成的文本,也適用於圖像、音頻和視頻。
Google 的模型輸出也包含 AI 水印
Google 多年前就遵守了歐盟《人工智能法案》,因此其模型自 2024 年起就包含 SynthID 文本水印。不過,他們效仿 OpenAI,發佈了一個公共網站 SynthID.com,讓任何人都能檢查任何非文本媒體(如圖像、音頻和視頻)是否包含 SynthID AI 水印。Google 的 AI 水印檢測器允許你檢查來自多個 AI 提供商的水印,例如 OpenAI、Nvidia、Kakao,當然還有 Google 自己。
為所有 AI 生成內容加水印未必是壞事
在我最近的經歷中,我曾為一家正在進行風險投資支持融資輪的公司擔任顧問。在融資公開宣佈後,公司某些人開始接到“CEO”的聯繫,對方以某種編造的情況為由,要求他們從個人賬户進行銀行轉賬。實際上,這是一羣騙子利用 LinkedIn 找到公司員工姓名,然後冒充 CEO,讓員工把錢匯入騙子的銀行賬户。我們大多數人都足夠懂技術,明白這是一個由不法分子驅動的明顯騙局。騙子暴露了自己,因為他們使用的電子郵件域名並不屬於這家初創公司,所以在這個案例中,欺詐企圖很容易被檢測到。
然而,如今的技術只需少量的人聲樣本就能輕鬆實現語音克隆。那麼,如果攻擊者決定利用 AI 克隆 CEO 的聲音,進行更復雜的“魚叉式網絡釣魚”(spear phishing)攻擊呢?如果假 CEO 開始給人打電話(而不是發郵件)呢?這可能導致更糟糕的情況:員工以為自己是在與 CEO 互動(並服從其指令),並感到有義務去做可能帶來嚴重財務後果的事情。
這對你意味着什麼
所有主要的大語言模型都在其 AI 生成內容中加入水印,而且由於近期的法規,這一趨勢不會消失。如今,不法分子可以利用 AI 對公眾發動嚴重攻擊,因此對任何 AI 生成內容(文本、圖像、音頻或視頻)加 AI 水印,是判斷真實性的非常有用的工具。
如果你想親自觀看 AI 水印如何被應用和檢測的現場演示,請務必參加 O'Reilly 的課程《理解 AI 文本水印》(Understanding AI Text Watermarking)。