谷歌打開AI垃圾內容地獄的大門

谷歌的Gemini大語言模型即將迎來一項頗具爭議的更新：用户可以選擇在AI生成的圖像、視頻和音樂中不顯示可見水印。這一消息由Gemini官方Twitter賬號於週五（一個典型的“新聞炸彈”時段）宣佈。這意味着，AI生成內容的可追溯性將進一步降低，並可能在社交媒體上引發更多難以辨識的合成內容。

長期以來，谷歌一直強調會通過水印等方式標記AI生成內容，以幫助用户辨別真偽。然而，新的設置允許用户自行決定是否保留這些可見標記。雖然谷歌可能仍會採用不可見的元數據或隱式標識，但普通用户看到的內容很可能不再有明顯提示。

批評者認為，這一變化相當於為“AI垃圾內容”打開了大門——人們可以更輕鬆地生成和傳播看似真實但完全由算法制造的圖像、視頻和音頻。這不僅加劇了信息混亂的風險，也讓深度偽造和虛假信息變得更加難以防範。谷歌或許有自己的商業考量，但在監管和公眾信任方面，這一決定無疑讓局面更加複雜。