我如何知道接下来该说什么？巴伦霍尔茨的自生成理论对哈里斯整合论的丰富

一篇新论文《我如何知道接下来该说什么？巴伦霍尔茨的自生成理论对哈里斯整合论的丰富》由J. Mark Bishop和Stephen J. Cowley撰写，提出了一个引人注目的综合。该文认为，埃兰·巴伦霍尔茨的自生成语言理论可以有效地填补罗伊·哈里斯整合主义语言学中的关键解释空白，同时不削弱其核心主张。

整合主义语言学对计算语言学中根深蒂固的指称主义传统提出了有力批判，认为语言并非映射到预先给定世界的代码，而是一种情境性的、双向的活动，旨在促进未来的联合行动。然而，整合主义存在显著不足：它未能完全解释符号维持前瞻开放性的结构机制；对语言与非语言符号活动之间的连续性理论化不足；也未提供关于过去整合积累档案的结构特性的详细解释。

巴伦霍尔茨的自生成理论最初是为了回应大型语言模型的行为而发展起来的，它恰好填补了这些空白。该理论提供了：哈里斯所强调的双向交流中前瞻开放性的结构机制；哈里斯关于语言与其他符号活动之间符号连续性论点的计算对应物；以及一个关于档案的理论——即过去整合的累积残余是什么样子的，新参与者如何利用它。

这一综合保留了哈里斯关于情境整合行为本体优先性的观点，同时增加了整合主义本身未能提供的解释性内容。对于自然语言处理和大型语言模型设计的从业者和研究人员来说，这一论证提供了一个有原则的说明，解释了LLM所有效利用的统计结构实际上是什么，以及它本质上无法提供什么。该论文已提交给《哲学与技术》期刊。

论文的作者指出，整合主义的批判虽有力，但其解释力受限。自生成理论通过提供具体的结构机制和计算模型，使得整合主义的概念更加可操作。例如，前瞻开放性的结构机制解释了符号如何在交流中保持开放，而不是预先确定。语言与非语言符号的连续性通过计算模型得以形式化。档案理论则揭示了过去整合的累积如何影响当前行为。这些贡献不仅丰富了整合主义，也为理解LLM的工作原理提供了新视角。

对于AI研究者而言，该综合意味着LLM所依赖的统计结构并不是神秘的，而是可以从整合主义的哲学框架中得到解释。同时，它也指出了LLM的局限性：它们只在统计结构层面操作，无法真正参与整合行为。这一认识有助于设计更符合人类语言本质的模型。