AI標註系統面臨成敗關鍵時刻

我們即將看到，旨在讓深度偽造和AI生成內容易於識別的系統是否真正可靠。SynthID和C2PA內容憑證是兩種不同的技術，它們以不可見的方式為影像、影片和音訊檔案標記來源資訊。如今，這兩項技術正迎來迄今為止最大規模的擴充套件，有望扭轉未標註AI偽造內容在網上誤導公眾的局面。

在昨天的I/O大會上，谷歌宣佈驗證影像是否帶有SynthID標記的能力將引入Chrome和搜尋。SynthID是谷歌AI模型生成內容上應用的無形水印系統。這一舉措意義重大，因為Chrome在瀏覽器市場佔據絕對主導地位，AI驗證工具將被推至更多使用者眼前。同時，它也簡化了驗證流程：目前若要檢查影像的SynthID標記，使用者需要將其上傳到Gemini應用。

不僅如此，谷歌的驗證介面現在還將檢查檔案是否包含C2PA資訊——一種在內容建立時嵌入的來源後設資料，用於說明內容的製作或修改方式以及是否使用了AI工具。這種對C2PA的支援使使用者能夠透過單一介面檢查可疑影像，而無需在Gemini應用和專門的C2PA驗證門戶之間切換，因為檔案可能只帶有一種標籤，或者兩者都沒有。

這正是我們一直期待的合作努力。儘管兩種系統的工作方式不同，谷歌和內容真實性倡議組織（推廣C2PA標準）都提出了類似的成功前提：需要所有人參與。這意味著更多AI模型需要嵌入這些資料，而AI偽造內容最常被分享的線上平臺需要清晰顯示這些資訊。對於後者，在網頁瀏覽器中內建驗證工具可以作為那些不檢查或不展示AI後設資料的網站的變通方案。

OpenAI也加入了這一擴充套件行動，昨天宣佈將為ChatGPT、Codex和OpenAI API生成的影像嵌入SynthID。該公司此前已在生成內容中包含C2PA後設資料，但我發現這些資料在釋出到其他平臺時經常被剝離。OpenAI本身也一直希望降低對C2PA的期望，儘管它是C2PA的指導成員並重申對該標準的承諾。以下是OpenAI在其C2PA幫助頁面上的表述（在昨天更新以包含SynthID之前）：

> “像C2PA這樣的後設資料並非解決來源問題的萬能藥。它可以被意外或故意輕易移除。例如，如今大多數社交媒體平臺都會從上傳的影像中移除後設資料，而截圖等操作也會將其移除。因此，缺少此後設資料的影像可能並非由ChatGPT或我們的API生成。”

對於被視為內容真實性技術的佼佼者的系統來說，這聽起來相當脆弱。就連谷歌也將C2PA描述為行業標準，並向各國政府推銷作為滿足AI透明度和標籤要求的解決方案。儘管越來越多的AI、硬體和軟體提供商採用它，但我很少看到它成功用於驗證現實中的AI偽造內容。相比之下，SynthID似乎更穩健，因為它不易被剝離——儘管其覆蓋範圍遠不如C2PA廣泛，但我能記起好幾起事實核查機構和媒體機構引用其使用來揭露線上深度偽造的案例。

C2PA和SynthID可以協同工作，編織更廣的安全網。這個行業不會從驗證標準之爭中受益，但谷歌顯然有機會證明其系統更可靠，並搶走C2PA為自己爭取的部分關注。為了防止這種情況發生，C2PA需要證明它確實能用於澄清我們在網上看到的內容的來源。

這樣的機會已經出現：谷歌昨天宣佈，Meta將開始使用C2PA後設資料來標記Instagram上由相機拍攝的影像。Meta尚未回應我們關於這一標籤具體形式或支援哪些相機的問題，但我推測它將包含諸如“由Pixel 10拍攝”之類的標籤，類似於電子郵件中的“從我的iPhone傳送”註釋。這將有效幫助Instagram使用者區分“真實”照片和令人信服的AI偽造品，符合Instagram負責人亞當·莫塞裡預測的未來——需要“拋棄預設所見即真實的假設”。

如果標籤有效的話。Instagram已經在檢查影像的C2PA資訊，它之前嘗試標記AI生成內容曾讓該平臺陷入困境，因為攝影師堅稱那些影像是自己拍攝的。

我也不急於讚揚谷歌的這一合作。公司一方面宣揚AI透明度和打擊數字深度偽造的重要性，另一方面卻在開發同樣用於誤導他人的技術。它既充當供應商又充當解決方案提供者。如果SynthID能在打擊深度偽造中帶來顯著改變，我可以原諒這一點，但考慮到問題的規模，我並不抱太大希望。

無論是否強大，SynthID和C2PA都只能檢測已新增的水印，而我懷疑許多用於生成真正惡意深度偽造內容的開源模型並不願意採用這些系統。來源追溯從來都不是完美的解決方案，但現在谷歌和C2PA有機會證明它並非完全徒勞。