人類與大型語言模型集合的對抗性社會認識論

本文由Mihnea C. Moldoveanu和Joel A.C. Baum於2026年7月8日提交至arXiv，題為《人類與大型語言模型集合的對抗性社會認識論》。文章篇幅50頁，旨在提出一種全新的分析框架——對抗性社會認識論（Adversarial Social Epistemology, ASE），專門用於研究在人類與大型語言模型（LLM）共同參與的密集互動交流環境中，信任如何被構建、利用和破壞。

作者指出，在當代信息生態中，公開聲明往往依賴於複雜的證言鏈、推理過程、機構認證以及參與者之間的隱性信任。這種“腳手架”式的斷言結構雖然提高了信息傳播的效率，但也為某些代理人提供了操縱信息的機會——他們可能為了個人利益、聲譽、修辭效果或物質回報，故意扭曲、美化、省略、捏造信息，或策略性地降低信息的明確性。傳統的認知泡沫（epistemic bubbles）、迴音室（echo chambers）和錯誤信息擴散等概念雖然揭示了信息隔離和偏見的某些方面，但無法充分解釋上述現象。ASE的核心貢獻在於，它揭示了代理人如何利用在正常情況下使腳手架式斷言值得信賴的承諾和權利（commitments and entitlements）來破壞信任。具體而言，信息操縱者可以巧妙地改變推理鏈條的可審計性，使得原本可追溯的斷言過程變得模糊不清，從而逃避責任。

為了應對這一挑戰，作者提出了一系列審計和補救機制。這些機制基於認識網絡（epistemic networks）和推理主義語義學（inferentialist semantics），旨在恢復和維持斷言的可審計性。通過追蹤斷言背後的推理鏈和信任關係，可以識別信任破壞行為，並採取相應措施予以糾正。該框架不僅適用於純人類交流場景，也適用於包含LLM的混合系統，因為LLM在生成文本時同樣可能參與或放大這些操縱策略。本文為理解現代信息環境中的信任危機提供了一個有力的理論工具，併為設計更具韌性的交流系統指明瞭方向。