谷歌的Gemini大語言模型即將迎來一項頗具爭議的更新：使用者可以選擇在AI生成的影像、影片和音樂中不顯示可見水印。這一訊息由Gemini官方Twitter賬號於週五（一個典型的“新聞炸彈”時段）宣佈。這意味著，AI生成內容的可追溯性將進一步降低，並可能在社交媒體上引發更多難以辨識的合成內容。
長期以來，谷歌一直強調會透過水印等方式標記AI生成內容，以幫助使用者辨別真偽。然而，新的設定允許使用者自行決定是否保留這些可見標記。雖然谷歌可能仍會採用不可見的後設資料或隱式標識，但普通使用者看到的內容很可能不再有明顯提示。
批評者認為，這一變化相當於為“AI垃圾內容”開啟了大門——人們可以更輕鬆地生成和傳播看似真實但完全由演算法制造的影像、影片和音訊。這不僅加劇了資訊混亂的風險，也讓深度偽造和虛假資訊變得更加難以防範。谷歌或許有自己的商業考量，但在監管和公眾信任方面，這一決定無疑讓局面更加複雜。