新しい論文「次に何を言うべきか？バレンホルツの自己生成理論がハリース統合主義を豊かにする」は、J. Mark BishopとStephen J. Cowleyによって執筆され、注目すべき統合を提案している。この論文は、エラン・バレンホルツの自己生成言語理論が、ロイ・ハリースの統合主義言語学の主要な説明上のギャップを、その核心的な主張を損なうことなく効果的に埋められることを論じている。
統合主義言語学は、計算言語学に深く根付いた指示主義的伝統に強力な批判を提供し、言語は所与の世界に写像されるコードではなく、将来の共同行動に向けられた状況的・双方向的活動であると主張する。しかし、統合主義には顕著な欠点がある。すなわち、記号が将来的開放性を維持する構造的メカニズムを完全には説明しておらず、言語と非言語的記号活動の連続性を理論化が不十分であり、過去の統合の蓄積されたアーカイブの構造的特性についての詳細な説明を提供していない。
バレンホルツの自己生成理論は、大規模言語モデルの行動に応答して発展し、これらのギャップを正確に埋める。この理論は以下のものを提供する：ハリースが双方向コミュニケーションの中心として特定する将来的開放性のための構造的メカニズム；言語と他の記号作成活動との間の記号的連続性に関するハリースのテーゼの計算論的相関物；そしてアーカイブ理論、すなわち過去の統合の蓄積された残骸がどのようなものか、新しい参加者がそれをどのように利用するかについての理論である。
この統合は、状況的統合行為のハリースの存在論的優位性を保持しながら、統合主義自体が供給しない説明的内容を追加する。自然言語処理と大規模言語モデル設計の実務者や研究者にとって、この議論は、LLMが非常に効果的に利用する統計的構造が実際に何であるか、そしてそれがその性質上提供できないものについての原理的な説明を提供する。この論文は『哲学と技術』誌に投稿されている。
著者らは、統合主義の批判は強力であるが、その説明力には限界があると指摘する。自己生成理論は、具体的な構造メカニズムと計算モデルを提供することで、統合主義の概念をより操作可能にする。例えば、将来的開放性の構造メカニズムは、記号がどのようにしてコミュニケーションにおいて開かれた状態を保つかを説明する。言語と非言語的記号の連続性は計算モデルによって形式化される。アーカイブ理論は、過去の統合の蓄積が現在の行動にどのように影響するかを明らかにする。これらの貢献は統合主義を豊かにするだけでなく、LLMの動作原理を理解する新しい視点を提供する。
AI研究者にとって、この統合は、LLMが依存する統計的構造が神秘的なものではなく、統合主義の哲学的枠組みから説明可能であることを意味する。同時に、LLMの限界も指摘する：それらは統計的構造のレベルでのみ動作し、真の統合行為には参加できない。この認識は、人間の言語の本質により適合したモデルを設計するのに役立つ。