領域適應與推理框架在語言模型中的應用：以歷史宇宙學為背景的對照實驗

一項由Francesco De Bernardis進行的最新研究，通過歷史宇宙學的對照實驗，深入探討了領域適應如何改變語言模型的解釋行為。該研究已提交至arXiv（arXiv:2605.30415），並已被歸類於計算與語言（cs.CL）和人工智能（cs.AI）領域。

研究分為兩個階段。第一階段，研究人員從頭開始訓練一個小型語言模型，所用語料庫為前哥白尼時代的文本，並有意移除了所有明確的日心説參考。他們評估了模型是否會在續寫中產生地球運動或日心説的內容。結果顯示，儘管模型偶爾會生成局部的地球運動續寫，但這些續寫在全局上不穩定，無法支持連貫的宇宙學推理。

第二階段，研究人員使用QLoRA技術對較大的預訓練模型進行微調，同樣使用前哥白尼語料庫。他們採用“LLM作為評判者”的框架來評估模型輸出，該框架能夠標記宇宙學立場（地心説、日心説或模糊）和解釋框架（前現代與現代）。結果發現，微調顯著地將模型的解釋框架向前現代方向轉移，且具有統計顯著性。然而，在這些框架內，條件化的宇宙學立場分佈相對穩定。因此，地心説輸出的增加主要源於解釋框架的重新分佈，而非立場的直接修改。

這些發現表明，領域適應可能主要通過重塑語言模型生成續寫的語言框架來起作用，而立場的改變則是這些框架轉變的次要結果。該研究對於理解語言模型如何從訓練數據中學習並內化世界觀具有重要意義，也為未來AI系統的對齊和可控性研究提供了新思路。

該研究還引發了關於語言模型在特定領域訓練後是否會無意識地採納過時或錯誤觀點的討論。研究者強調，雖然模型並未直接學習地心説，但通過接觸前現代文本，模型的解釋框架發生了傾斜。這意味着，在應用領域適應技術時，需要謹慎選擇訓練數據，以避免無意中引入偏見。