谷歌打开AI垃圾内容地狱的大门

谷歌的Gemini大语言模型即将迎来一项颇具争议的更新：用户可以选择在AI生成的图像、视频和音乐中不显示可见水印。这一消息由Gemini官方Twitter账号于周五（一个典型的“新闻炸弹”时段）宣布。这意味着，AI生成内容的可追溯性将进一步降低，并可能在社交媒体上引发更多难以辨识的合成内容。

长期以来，谷歌一直强调会通过水印等方式标记AI生成内容，以帮助用户辨别真伪。然而，新的设置允许用户自行决定是否保留这些可见标记。虽然谷歌可能仍会采用不可见的元数据或隐式标识，但普通用户看到的内容很可能不再有明显提示。

批评者认为，这一变化相当于为“AI垃圾内容”打开了大门——人们可以更轻松地生成和传播看似真实但完全由算法制造的图像、视频和音频。这不仅加剧了信息混乱的风险，也让深度伪造和虚假信息变得更加难以防范。谷歌或许有自己的商业考量，但在监管和公众信任方面，这一决定无疑让局面更加复杂。