Meta推出了自己的AI檢測系統，但它本應使用谷歌的

今年三月，Meta的監督委員會敦促該公司“履行公開承諾，利用自身工具”來遏制欺騙性生成式AI內容在平台上的傳播。Meta在七月做出了回應，推出了Content Seal——一種隱形水印技術，用於標記由其新AI模型生成的圖像。但這基本上是該公司在發佈Muse圖像和視頻生成工具時的一個腳註。

作為一個花大量時間審查AI標籤系統的人，Content Seal並沒有給我帶來信心。已有更成熟的解決方案，如C2PA內容憑證和谷歌的SynthID，Meta本可以使用這些方案，而不是在更晚的時候推出自己的系統。在深入瞭解Meta為何推出自有系統後，我不認為Meta已經考慮周全。

根據Meta的描述，Content Seal的工作方式與SynthID類似。這種水印對人類肉眼不可見，提供了嵌入AI生成圖像中的“隱藏來源信號”，然後可以通過檢測工具掃描和標記，幫助在線用户區分深度偽造和真實內容。與SynthID一樣，Meta也表示Content Seal水印在圖像被“裁剪、壓縮、調整大小或截屏”後仍然完好無損並可被檢測到。

那麼，既然Content Seal功能上與SynthID相同……為什麼不直接採用SynthID呢？Meta已經是內容來源與真實性聯盟（C2PA）的指導委員會成員，該聯盟與谷歌一起推廣獨立的Content Credentials標準，這表明Meta願意與他人合作解決日益嚴重的AI檢測問題。同時，SynthID已經被OpenAI採用，所以谷歌顯然也願意向競爭對手AI提供商開放其技術，以提高透明度。

儘管與谷歌的系統有相似之處，但Content Seal目前存在若干限制。目前，用户只能通過Meta正在測試的專用網絡工具檢測Content Seal水印，這意味着Meta沒有像谷歌將檢測功能集成到Gemini那樣將其構建到Meta AI聊天機器人中。但這種情況可能會改變。Meta發言人Faith Eischen告訴The Verge，公司正“探索將檢測功能帶到人們遇到AI生成內容的地方”。考慮到這正是AI檢測最需要的地方，而且已經有一段時間了，為什麼在發佈時沒有提供呢？

水印目前僅應用於Meta AI應用和Meta.ai網站上由Muse生成的圖像，這意味着在線用户無法用它來檢測由Meta舊AI模型生成的內容。對生成視頻的支持也沒有提供，不過Meta表示“很快”就會推出。

Meta通過其檢測工具對檢查Content Seal水印的次數設置了每日限制。Eischen表示，這個速率限制旨在支持“正常使用”，同時保護檢測系統不被濫用。Meta沒有澄清這種濫用具體是什麼樣子——大概是試圖破解系統以逃避水印內容的檢測——但谷歌和OpenAI的檢測工具也有類似的速率限制。C2PA是唯一沒有限制用户檢查內容次數的系統。任何檢測限制都感覺與大規模提高AI透明度的目標相悖，因此這似乎是Meta系統錯失了比SynthID做得更好的機會。

在Meta自己的平台如Facebook和Instagram上，Eischen表示，除了Content Seal水印外，還使用了未指定的元數據來幫助用户識別AI生成內容。當我問Meta是否指示其他在線平台（如TikTok和LinkedIn）如何檢測Content Seal時，Eischen説公司“決心與行業同行合作，確保用户獲得最佳體驗。”

這表明對該標準的更廣泛支持仍在進行中，這可能妨礙Muse生成的圖像在Meta平台之外被有效標記。當我將一個用Meta的Muse模型製作的測試圖像輸入Gemini和官方C2PA檢測門户時，兩個工具都無法確認它是AI生成的。還有一個問題是，Content Seal能否與SynthID和Content Credentials同時應用於圖像和視頻文件而不干擾其他標準。Meta沒有對此提供任何公開澄清。

“像其他公司一樣，我們根據自身的技術規格和產品構建了Content Seal。解決生態系統問題需要多種方法協同工作，我們很高興為此做出貢獻，”Eischen説。“我們很快將分享更多關於Content Seal的信息。”

鑑於Content Seal只能檢測使用Meta最新AI模型生成的圖像，我不禁想知道這家公司一直在做什麼。Meta自2023年起就提供AI圖像生成工具，因此它已經產生了大量無法被其自有系統檢測的虛假內容。同年，它還在Instagram和Facebook上引入了AI標籤，但錯誤地將真實照片標記為“由AI製作”，激怒了許多攝影師。

三年過去了，Meta仍然不確定如何將自己定位為AI內容的生產者和識別者，尤其是在其自有平台上。甚至Meta的高層領導似乎也對下一步該怎麼做感到困惑。

在接受Lenny Rachitsky播客採訪時，Instagram負責人Adam Mosseri最初認同那些不喜歡AI生成內容的人應該被允許將其從社交信息流中移除——這聽起來很像需要可靠AI標籤系統的過濾功能。他甚至暗示，真實性本身將變得更有價值，因為AI無法提供。

“在一個合成內容豐富的世界裏，我認為人們實際上會更多地尋求創造力、真實性和人與人之間的聯繫，而不是減少，”Mosseri説。

然而，在同一採訪中，Mosseri説“我認為我們不應該過濾掉AI內容”，同時確認“我們應該讓用户知道內容是否是AI生成的。”Mosseri還重申了他之前表達過的觀點，即“對真實媒體進行指紋識別可能比對虛假媒體更實際。”這聽起來不像Meta對自己開發可行的AI標籤系統有信心。從將其社交平台變成“蝦耶穌”等生成式網絡垃圾的工廠以來，Meta有足夠的時間，但Content Seal的發佈仍然感覺像是倉促推出的。

它對消費者來説沒有提供比類似且成熟的SynthID系統更多的好處，反而創造了另一個人們必須經過的環節來驗證AI內容。也許Meta本應像OpenAI那樣直接採用谷歌的水印標準。如果那樣的話，Facebook和Instagram用户可能會更好。Eischen告訴我，Meta多年來一直貢獻開源水印研究，所以它並非一夜之間就搞出了這項技術，但我期望看到更好的消費者體驗。

如果Meta想堅持自己的解決方案，它需要的不僅僅是一個不成熟的SynthID克隆來證明其對AI透明度的認真態度——至少需要更可靠的系統。路透社已經發現，Content Seal在檢測經過裁剪的Muse生成圖像時，失敗率超過一半。