谷歌讓深度偽造檢測更加普及：Chrome和搜尋將整合AI標記識別

谷歌正在將其AI檢測能力擴充套件到Chrome和搜尋，旨在讓使用者更容易識別深度偽造內容。在今天的Google I/O大會上宣佈的更新涵蓋了谷歌DeepMind研發的隱形水印技術SynthID，以及嵌入C2PA內容憑證的內容，使這兩個系統對使用者更加開放，幫助瞭解所看內容是如何製作或篡改的。

首先，谷歌表示，帶有SynthID標記的影像驗證功能即日起將進入搜尋功能，包括Google Lens、AI模式和圈選搜尋。使用者上傳或選擇線上影像後，可以瞭解影像的來源資訊。Chrome的支援預計“在未來幾個月內”推出。谷歌稱Chrome擴充套件由Gemini驅動，使用者可透過選擇或圈選瀏覽器頁面上的影像，在右側面板詢問“這是AI製作的嗎？”或“這是AI生成的嗎？”。

SynthID對影像、影片和音訊內容的驗證已可透過Gemini應用使用。此次擴充套件到Chrome和搜尋目前僅支援影像，但谷歌表示計劃未來擴充套件到其他內容型別。

作為更新的一部分，谷歌的驗證介面將同時檢查內容是否包含C2PA內容憑證和SynthID標記。這意味著使用者現在可以從單一介面檢查這兩個系統的來源資訊，而不必在Gemini和專門的C2PA檢查器之間切換，從而簡化深度偽造檢測流程。C2PA驗證今日在Gemini應用中推出，搜尋和Chrome支援將在未來幾個月內跟進。

這並不是谷歌擴充套件C2PA的唯一努力——Pixel 10手機拍攝的影像已嵌入此後設資料，現在Pixel 8、9和10手機將在未來幾周內為影片檔案也新增該功能。谷歌還表示，Meta將開始在Instagram上使用C2PA標記相機拍攝的媒體，但Meta尚未回應對此功能的更多資訊請求。同時，更多由OpenAI、Kakao和ElevenLabs生成的AI內容將支援谷歌的SynthID水印，但谷歌未說明具體覆蓋哪些模型或內容。

此外，谷歌云為Gemini企業代理平臺推出了新的AI內容檢測API，旨在讓組織更容易識別AI生成的媒體。谷歌表示，該功能將與一組未指定的可信合作伙伴一起推出，並將根據他們的反饋進行調整。谷歌在公告中稱：“這為企業提供了一種強大的方式，來識別由谷歌和其他流行模型製作的AI內容，幫助他們決定如何跨平臺評估和管理媒體——無論是用於後端操作，如分類資訊流和防止保險欺詐，還是面向使用者的內容，如事實核查和標記合成媒體。”

這些擴充套件應有助於讓AI檢測對企業和普通網路使用者都更加便捷。Chrome擴充套件尤其引人注目，因為它是全球使用最廣泛的瀏覽器——許多線上平臺並不原生標註AI內容，因此這提供了一種更簡單的變通方法，無需儲存影像並手動上傳到專門的C2PA和SynthID檢測介面。

然而，谷歌DeepMind副總裁Pushmeet Kohli告訴The Verge，谷歌已取消推出專用SynthID驗證門戶的計劃。至少對於谷歌自己的系統而言，這意味著SynthID標記可能只能透過Gemini驅動的平臺識別，迫使人們使用谷歌自己的AI工具來識別由谷歌模型生成的AI內容。這可能不會受到希望完全避免與生成式AI系統互動的使用者的歡迎。