眼见不一定为实:逼真的AI视频动摇人们对真实视频的信心
MIT媒体实验室的一项新研究发现,即使明确标注AI生成内容,接触逼真AI视频也会使观众对后续真实视频的真实性产生怀疑,降低判断信心,并引发感知干扰和社会疏离感。该研究呼吁关注合成内容对感知体验的影响,并设计优先考虑感知安全的策略。
长久以来,视觉媒体一直被视为真实世界的可靠记录。然而,随着生成式视频模型的飞速发展,如今已经能够制作出与真实场景几乎难以区分的合成影像。这类AI生成的视频正在短视频平台上快速扩散,用户可能在一个信息流中连续消费AI生成和人类拍摄的多种内容。这种趋势引发了一个关键问题:即使明确告知观众哪些内容是AI生成的,这种暴露是否仍然会从根本上改变人们对后续真实内容的信任感?MIT媒体实验室的最新研究给出了令人不安的答案。
由Eitan Wolf、Yasith Samaradivakara等研究人员组成的团队进行了一项精心设计的双阶段实验,共招募了100名参与者。在第一阶段,一组参与者观看了一系列明确标注为AI生成的视频,另一组则观看了同样明确标注为人类拍摄的真实视频。随后,两组参与者都观看了另外一组未标注的人类拍摄视频。研究结果显示,即使AI视频被清晰地标记出来,事先接触过AI生成内容的群体在判断后续视频的真实性时表现得更加怀疑,他们的判断信心显著降低,并报告了更强烈的感知干扰(例如,感觉自己难以分辨真伪)以及更低的社会连接感。
这项已于2026年CHI会议发表的论文强调,AI合成内容的影响远远超越了简单的欺骗。它实际上是在“污染”观众对真实性的感知阈值,使得人们即使在有明确标识的情况下,也难以摆脱对所见内容真实性的怀疑。这被称为“感知污染”。研究人员指出,当前学术界和工业界过分专注于开发检测AI生成内容的技术,却相对忽略了这种内容对观看者心理和感知体验的长期影响。事实上,即使检测技术完美无缺,观众在快速浏览中积累的怀疑和不确定性本身就可能构成一种新形式的心理负担。
基于这些发现,作者呼吁设计策略应当从“防欺骗”转向“保感知”。这意味着在内容生态系统中,需要建立一种“感知安全”机制,帮助用户维持对现实世界的基本信任。例如,平台可能需要改变内容的呈现方式,提供更多的上下文信息,或者设计专门的界面元素来区分合成内容与现实内容,而不只是简单的标签。这项研究对AI伦理、媒体素养教育以及社交媒体平台的设计都具有深远的意义。它提醒我们,在AI技术不断模糊真实与虚构边界的时代,保护人类的感知完整性可能比单纯检测虚假内容更为重要。