生成式人工智能正在從根本上改變文本的可信度生態。過去,讀者常以行文是否流暢、措辭是否專業來判斷一段內容的真實性,但在大語言模型能夠以極低代價生成流利、連貫文本的今天,這條經驗法則已經開始失效。針對這一現象,Qing Zhang 等五位研究者在一篇提交至 arXiv 的論文中提出了“流利性陷阱”的概念:一方面,用户很容易輕信那些聽起來頭頭是道、但實際上屬於幻覺的內容;另一方面,一旦某段原本準確的內容被打上“由 AI 製作”的標籤,用户又會傾向於低估其可信度。這種雙向的認知偏差使得內容的傳播與判斷變得異常困難。
現有平台普遍採用“Made with AI”這樣的二元標籤來回應上述挑戰,但論文指出,這類標籤只是披露了內容的作者身份,並沒有回答一個更根本的問題:這段話所聲稱的事實,到底有沒有證據支持?為此,作者提出了一種新的透明機制——“來源密度”(Provenance Density)。它不再給出一句話式的定性説明,而是藉助證據可視化界面,把文本中經過核實的斷言在整體文本中的密度呈現給用户,讓用户在閲讀時能夠直觀地感受到某個文本的可核實程度高低,從而據此決定是否信任。
為了驗證這種可視化手段的實際效果,研究者招募了 81 名參與者進行用户實驗。實驗結果顯示,當參與者使用理想化的來源密度界面時,他們在真實內容與捏造內容之間的辨別力差距顯著擴大,分數差達到 4.15 分,效應量 d=1.82;相比之下,那些完全沒有獲得任何信號提示的對照組參與者,則幾乎沒有表現出區分真偽的能力。也就是説,來源密度並不是一種理論上有效的裝飾性設計,而是能夠切實改善用户判斷力的工具。
不過,研究並未止步於理想化界面的效果驗證。在對 200 個樣本進行的技術審計中,團隊發現只依靠檢索到的來源密度並不足以可靠地區分真實與偽造信息;出人意料的轉折點是,動態查詢場景裏“一致性否決”(Consistency Veto)機制承載了大部分的判別信號。這意味着,來自外部知識源的一致程度比單純的密度數值更能揭示可疑內容,任何試圖把來源密度直接產品化的方案,都必須把這一點納入考慮。
這篇論文已於 2026 年 9 月 3 日提交至 arXiv,編號為 arXiv:2609.03460,收錄於人工智能(cs.AI)方向。作者在結論中強調,隨着 AI 生成內容與人類寫作的邊界日益模糊,有效的透明機制不能停留在説是“誰寫的”,而應轉向展示“憑什麼相信”。以證據可視化取代簡單的作者身份披露,可能是緩解 AI 內容信任危機的重要路徑。