这篇由Vera Neplenbroek等四位作者撰写、于2026年6月1日提交至arXiv的论文(编号arXiv:2606.02776,属计算与语言cs.CL方向),聚焦一个在现实应用中日益紧迫的问题:当大语言模型被用于法律咨询、医疗建议和金融理财等高风险场景时,对话历史会如何影响模型给出的答案,以及这种影响是否会在不同社会人口群体之间造成结果差异。
研究的出发点在于,此前已有工作表明,在相同任务下,不同社会人口群体从LLM处获得的建议质量存在系统性差别,某些群体往往得到更有利的结果。然而,这篇论文提出了一个值得注意的修正性发现:LLM实际上很难仅凭单轮对话历史准确推断出用户的社会人口属性;同时,尽管群体间确实存在差异,但差异的幅度其实很小。这一结论在一定程度上缓解了人们对“模型精准识别身份并据此差别对待”的担忧,但也把研究重点引向另一个问题——既然不是身份识别本身导致的,那么差异的真正驱动力是什么?
为此,作者将用户的社会人口属性与一系列(心理)语言学特征进行了对比分析,考察的特征包括对话主题、情绪表达以及文本可读性等。结果显示,在对话语境中,对话主题是对LLM生成建议最具预测力的因素。换言之,用户谈论什么话题,比其身份标签更能决定模型给出怎样的建议。作者进一步指出,对话主题在一定程度上充当了社会人口群体的代理变量(proxy),即不同群体倾向于讨论不同话题,从而间接地让身份因素渗入模型输出;而这种经由主题产生的影响往往以难以预测的方式改变建议内容。
论文强调,这一发现值得警惕。它意味着即便模型没有显式识别用户身份,对话的语境本身仍可能在不知不觉中左右高风险场景下的建议质量,进而放大或掩盖群体间的不平等。作者因此呼吁未来研究更深入地理解对话语境对LLM输出的作用机制,并在必要时采取措施加以缓解。该论文以PDF、实验性HTML及TeX源码形式公开,DOI为10.48550/arXiv.2606.02776,目前DOI注册尚待完成。