这篇于2026年5月28日提交到arXiv的论文(编号2605.30415,分类为cs.CL计算与语言,交叉cs.AI人工智能)由Francesco De Bernardis撰写,题为《语言模型中的领域适应与推理框架:一项以历史宇宙论为对象的受控实验》。全文共17页、含3幅图,作者试图借助一个特殊的历史语境——哥白尼之前的地心说宇宙论——来观察领域适应究竟如何改变语言模型的解释行为,而不是仅仅改变它给出的结论。
研究采用两阶段设计。第一阶段(Phase 1)从零训练一个小型语言模型,训练语料是经过处理的哥白尼时代之前的文本,其中所有明确的日心说表述都已被移除。作者关心的是:即便显式的日心说线索被清除,模型是否仍会在生成续写时自发产生“地球在运动”或日心说的内容。换言之,这一阶段考察的是有限数据条件下模型能否从残留的隐性线索中重建被删去的科学立场。
第二阶段(Phase 2)转向更大的预训练模型,使用QLoRA在同一份语料上进行微调,重点研究适应过程如何改变模型的解释框架与宇宙论立场。为了量化这些变化,作者采用“LLM作为评判者”的评估框架,对模型输出同时打两个标签:其一是宇宙论立场,分为地心说、日心说与模糊三类;其二是解释框架,分为前现代与现代两类。这种双维度标注使研究能够区分“模型持什么观点”与“模型以何种语言和推理方式表达观点”。
结果显示,两个阶段呈现出不同图景。在数据受限的第一阶段,较小的模型偶尔会生成局部性的地球运动续写,但这些片段在整体上并不稳定,也不足以支撑连贯的宇宙论推理——模型仿佛偶然触及了正确方向,却无法维持一致的论证。在第二阶段,QLoRA微调带来了朝向“前现代解释框架”的大幅且统计显著的转变,而在同一解释框架内部,条件性的宇宙论立场分布则相对稳定。
由此得出的核心结论颇具方法论意义:微调之后地心说输出之所以增多,主要不是因为模型被直接改写了立场,而是因为输出在不同解释框架之间的重新分配——模型更多地落入前现代的话语体系,而在该体系内部,它原本的立场倾向大体保持不变。作者据此提出,领域适应可能首先重塑的是模型生成续写时所依托的语言框架,立场的改变则是这些框架转变的次要后果。
这一发现对理解微调的可解释性与风险具有启示:当模型在特定领域数据上被适配后,表面上看似“信念”的转变,可能只是表达方式与推理语域的迁移。该论文的提交时间为2026年5月28日18:00:02 UTC,文件约38 KB,作者为Francesco De Bernardis,DOI为10.48550/arXiv.2605.30415,尚待DataCite注册。