AI News HubLIVE
站內改寫2 分鐘閱讀

眼見不一定為實:逼真的AI影片動搖人們對真實影片的信心

MIT媒體實驗室的一項新研究發現,即使明確標註AI生成內容,接觸逼真AI影片也會使觀眾對後續真實影片的真實性產生懷疑,降低判斷信心,並引發感知干擾和社會疏離感。該研究呼籲關注合成內容對感知體驗的影響,並設計優先考慮感知安全的策略。

來源Hacker News AI作者: abhas9

長久以來,視覺媒體一直被視為真實世界的可靠記錄。然而,隨著生成式影片模型的飛速發展,如今已經能夠製作出與真實場景幾乎難以區分的合成影像。這類AI生成的影片正在短影片平臺上快速擴散,使用者可能在一個資訊流中連續消費AI生成和人類拍攝的多種內容。這種趨勢引發了一個關鍵問題:即使明確告知觀眾哪些內容是AI生成的,這種暴露是否仍然會從根本上改變人們對後續真實內容的信任感?MIT媒體實驗室的最新研究給出了令人不安的答案。

由Eitan Wolf、Yasith Samaradivakara等研究人員組成的團隊進行了一項精心設計的雙階段實驗,共招募了100名參與者。在第一階段,一組參與者觀看了一系列明確標註為AI生成的影片,另一組則觀看了同樣明確標註為人類拍攝的真實影片。隨後,兩組參與者都觀看了另外一組未標註的人類拍攝影片。研究結果顯示,即使AI影片被清晰地標記出來,事先接觸過AI生成內容的群體在判斷後續影片的真實性時表現得更加懷疑,他們的判斷信心顯著降低,並報告了更強烈的感知干擾(例如,感覺自己難以分辨真偽)以及更低的社會連線感。

這項已於2026年CHI會議發表的論文強調,AI合成內容的影響遠遠超越了簡單的欺騙。它實際上是在“汙染”觀眾對真實性的感知閾值,使得人們即使在有明確標識的情況下,也難以擺脫對所見內容真實性的懷疑。這被稱為“感知汙染”。研究人員指出,當前學術界和工業界過分專注於開發檢測AI生成內容的技術,卻相對忽略了這種內容對觀看者心理和感知體驗的長期影響。事實上,即使檢測技術完美無缺,觀眾在快速瀏覽中積累的懷疑和不確定性本身就可能構成一種新形式的心理負擔。

基於這些發現,作者呼籲設計策略應當從“防欺騙”轉向“保感知”。這意味著在內容生態系統中,需要建立一種“感知安全”機制,幫助使用者維持對現實世界的基本信任。例如,平臺可能需要改變內容的呈現方式,提供更多的上下文資訊,或者設計專門的介面元素來區分合成內容與現實內容,而不只是簡單的標籤。這項研究對AI倫理、媒體素養教育以及社交媒體平臺的設計都具有深遠的意義。它提醒我們,在AI技術不斷模糊真實與虛構邊界的時代,保護人類的感知完整性可能比單純檢測虛假內容更為重要。