大型语言模型正越来越多地被用于模拟和探测人类行为,例如在问卷调查等场景中替代或辅助人类受访者。在这类应用中,一个关键性质是“分布对齐”(distributional alignment):模型的输出分布应当与某个参考分布——在此即人类回答的分布——相匹配。然而,实现分布对齐的一大障碍在于如何从有限的少量训练数据中泛化出去。Nelson Jo 的论文《Distributional Alignment of LLMs and Its Generalization Properties》正是围绕这一难题展开,研究两个核心问题:其一,如何让大语言模型实现分布对齐;其二,完成对齐的模型在面对未见样本、无关话题与不相关任务时,可能如何泛化。
论文使用两个大规模基准进行实证研究,结果显示大语言模型确实能够实现分布对齐,并且能够泛化到同一领域内此前未见过的问题上。这说明在训练数据覆盖的领域内部,对齐效果具有一定的可迁移性,模型并非只是机械记住训练样本,而是学到了某种可推广的分布特征。这一结论对于将模型用于调查模拟、民意探测等应用具有直接的积极意义。
不过,跨话题的泛化表现则更为复杂。研究发现,跨话题泛化是否成功,取决于话题之间的关系。例如,涉及政治的问题与对制度的信任程度相关,因此这类话题之间可能存在可迁移的结构;而当话题之间缺乏这种语义或概念上的联系时,泛化效果就会大打折扣。换言之,分布对齐的泛化能力并非普遍适用,而是受话题间内在关联性的约束。
更值得注意的是,论文指出了一个出人意料的副作用:完成对齐的大语言模型可能以令人惊讶的方式出现性能退化,例如丧失创造性能力。这意味着,为了让模型在输出分布上贴近人类参考分布,可能会牺牲模型在其他维度上的能力,而且这种代价并不总是可以事先预见。作者据此得出结论:对齐后模型的泛化性质本质上是不可预测且不稳定的。
该研究的意义在于,它既确认了分布对齐在技术上是可行的,又提醒使用者不能简单假定对齐后的模型可以可靠地迁移到新场景。对于依赖大语言模型进行人类行为模拟的研究者和实践者而言,这意味着在部署前需要针对具体话题和任务进行验证,而不能仅凭同领域内的良好表现就推断其跨领域可靠性。论文发表于 IJCAI 2026 的 Augmented Democracies 研讨会,属于计算与语言(cs.CL)以及人工智能(cs.AI)交叉领域的工作,提交时间为 2026 年 10 月 5 日。