领域适应与推理框架在语言模型中的应用：以历史宇宙学为背景的对照实验

一项由Francesco De Bernardis进行的最新研究，通过历史宇宙学的对照实验，深入探讨了领域适应如何改变语言模型的解释行为。该研究已提交至arXiv（arXiv:2605.30415），并已被归类于计算与语言（cs.CL）和人工智能（cs.AI）领域。

研究分为两个阶段。第一阶段，研究人员从头开始训练一个小型语言模型，所用语料库为前哥白尼时代的文本，并有意移除了所有明确的日心说参考。他们评估了模型是否会在续写中产生地球运动或日心说的内容。结果显示，尽管模型偶尔会生成局部的地球运动续写，但这些续写在全局上不稳定，无法支持连贯的宇宙学推理。

第二阶段，研究人员使用QLoRA技术对较大的预训练模型进行微调，同样使用前哥白尼语料库。他们采用“LLM作为评判者”的框架来评估模型输出，该框架能够标记宇宙学立场（地心说、日心说或模糊）和解释框架（前现代与现代）。结果发现，微调显著地将模型的解释框架向前现代方向转移，且具有统计显著性。然而，在这些框架内，条件化的宇宙学立场分布相对稳定。因此，地心说输出的增加主要源于解释框架的重新分布，而非立场的直接修改。

这些发现表明，领域适应可能主要通过重塑语言模型生成续写的语言框架来起作用，而立场的改变则是这些框架转变的次要结果。该研究对于理解语言模型如何从训练数据中学习并内化世界观具有重要意义，也为未来AI系统的对齐和可控性研究提供了新思路。

该研究还引发了关于语言模型在特定领域训练后是否会无意识地采纳过时或错误观点的讨论。研究者强调，虽然模型并未直接学习地心说，但通过接触前现代文本，模型的解释框架发生了倾斜。这意味着，在应用领域适应技术时，需要谨慎选择训练数据，以避免无意中引入偏见。