谷歌讓深度偽造檢測更加普及：Chrome和搜索將集成AI標記識別

谷歌正在將其AI檢測能力擴展到Chrome和搜索，旨在讓用户更容易識別深度偽造內容。在今天的Google I/O大會上宣佈的更新涵蓋了谷歌DeepMind研發的隱形水印技術SynthID，以及嵌入C2PA內容憑證的內容，使這兩個系統對用户更加開放，幫助瞭解所看內容是如何製作或篡改的。

首先，谷歌表示，帶有SynthID標記的圖像驗證功能即日起將進入搜索功能，包括Google Lens、AI模式和圈選搜索。用户上傳或選擇在線圖像後，可以瞭解圖像的來源信息。Chrome的支持預計“在未來幾個月內”推出。谷歌稱Chrome擴展由Gemini驅動，用户可通過選擇或圈選瀏覽器頁面上的圖像，在右側面板詢問“這是AI製作的嗎？”或“這是AI生成的嗎？”。

SynthID對圖像、視頻和音頻內容的驗證已可通過Gemini應用使用。此次擴展到Chrome和搜索目前僅支持圖像，但谷歌表示計劃未來擴展到其他內容類型。

作為更新的一部分，谷歌的驗證界面將同時檢查內容是否包含C2PA內容憑證和SynthID標記。這意味着用户現在可以從單一界面檢查這兩個系統的來源信息，而不必在Gemini和專門的C2PA檢查器之間切換，從而簡化深度偽造檢測流程。C2PA驗證今日在Gemini應用中推出，搜索和Chrome支持將在未來幾個月內跟進。

這並不是谷歌擴展C2PA的唯一努力——Pixel 10手機拍攝的圖像已嵌入此元數據，現在Pixel 8、9和10手機將在未來幾周內為視頻文件也添加該功能。谷歌還表示，Meta將開始在Instagram上使用C2PA標記相機拍攝的媒體，但Meta尚未回應對此功能的更多信息請求。同時，更多由OpenAI、Kakao和ElevenLabs生成的AI內容將支持谷歌的SynthID水印，但谷歌未説明具體覆蓋哪些模型或內容。

此外，谷歌云為Gemini企業代理平台推出了新的AI內容檢測API，旨在讓組織更容易識別AI生成的媒體。谷歌表示，該功能將與一組未指定的可信合作伙伴一起推出，並將根據他們的反饋進行調整。谷歌在公告中稱：“這為企業提供了一種強大的方式，來識別由谷歌和其他流行模型製作的AI內容，幫助他們決定如何跨平台評估和管理媒體——無論是用於後端操作，如分類信息流和防止保險欺詐，還是面向用户的內容，如事實核查和標記合成媒體。”

這些擴展應有助於讓AI檢測對企業和普通網絡用户都更加便捷。Chrome擴展尤其引人注目，因為它是全球使用最廣泛的瀏覽器——許多在線平台並不原生標註AI內容，因此這提供了一種更簡單的變通方法，無需保存圖像並手動上傳到專門的C2PA和SynthID檢測界面。

然而，谷歌DeepMind副總裁Pushmeet Kohli告訴The Verge，谷歌已取消推出專用SynthID驗證門户的計劃。至少對於谷歌自己的系統而言，這意味着SynthID標記可能只能通過Gemini驅動的平台識別，迫使人們使用谷歌自己的AI工具來識別由谷歌模型生成的AI內容。這可能不會受到希望完全避免與生成式AI系統互動的用户的歡迎。