人类与大型语言模型集合的对抗性社会认识论

本文由Mihnea C. Moldoveanu和Joel A.C. Baum于2026年7月8日提交至arXiv，题为《人类与大型语言模型集合的对抗性社会认识论》。文章篇幅50页，旨在提出一种全新的分析框架——对抗性社会认识论（Adversarial Social Epistemology, ASE），专门用于研究在人类与大型语言模型（LLM）共同参与的密集互动交流环境中，信任如何被构建、利用和破坏。

作者指出，在当代信息生态中，公开声明往往依赖于复杂的证言链、推理过程、机构认证以及参与者之间的隐性信任。这种“脚手架”式的断言结构虽然提高了信息传播的效率，但也为某些代理人提供了操纵信息的机会——他们可能为了个人利益、声誉、修辞效果或物质回报，故意扭曲、美化、省略、捏造信息，或策略性地降低信息的明确性。传统的认知泡沫（epistemic bubbles）、回音室（echo chambers）和错误信息扩散等概念虽然揭示了信息隔离和偏见的某些方面，但无法充分解释上述现象。ASE的核心贡献在于，它揭示了代理人如何利用在正常情況下使脚手架式断言值得信赖的承诺和权利（commitments and entitlements）来破坏信任。具体而言，信息操纵者可以巧妙地改变推理链条的可审计性，使得原本可追溯的断言过程变得模糊不清，从而逃避责任。

为了应对这一挑战，作者提出了一系列审计和补救机制。这些机制基于认识网络（epistemic networks）和推理主义语义学（inferentialist semantics），旨在恢复和维持断言的可审计性。通过追踪断言背后的推理链和信任关系，可以识别信任破坏行为，并采取相应措施予以纠正。该框架不仅适用于纯人类交流场景，也适用于包含LLM的混合系统，因为LLM在生成文本时同样可能参与或放大这些操纵策略。本文为理解现代信息环境中的信任危机提供了一个有力的理论工具，并为设计更具韧性的交流系统指明了方向。