近年来,人工智能技术为集体决策提供了新的可能。传统的投票方式要求参与者从固定候选人中选择,但现代AI允许人们通过自由文本表达意见,从而更丰富地捕捉偏好。一个自然的方法是将这些意见嵌入到向量空间中,以便应用设施位置问题(facility location)和公平聚类(fair clustering)等经典算法。然而,标准文本嵌入(如BERT、Sentence-BERT)衡量的是语义相似度,即文本在含义上的接近程度,而设施位置和公平聚类所需的距离度量是一种所谓的“偏好相似度”:参与者对某段文本的同意程度应与其在嵌入空间中的距离成反比。现成的嵌入模型通过语义与偏好之间的相关性,继承了粗略的偏好信号,但当这种相关性被打破时(例如文本风格、措辞与立场无关),它们就无法捕捉真实偏好。
来自Carter Blair等作者的研究(arXiv:2605.08360,2026年5月8日提交)将这一问题形式化为一个不变性(invariance)问题:文本嵌入模型同时编码了偏好相关信号(如立场、价值观)和语义上的干扰因素(如风格、措辞),且两者在观测上相互关联。因此,仅依赖干扰因素的几何结构即使不正确,也可能表现出符合偏好的假象。为了解决这个问题,研究者提出设计合成训练数据,故意打破语义与偏好之间的统计相关性。理论证明,这种训练方法可以使最优评分器从受干扰因素支配的余弦相似度中转移出来,转而捕捉真正的偏好信号。实验在11个在线讨论数据集上进行,结果表明该方法在偏好预测的准确性上显著优于传统余弦相似度。
这项研究的意义在于,它为利用AI进行更公平、更精准的集体决策提供了新思路。例如,在民意收集、公共咨询或产品反馈中,如果仅使用标准文本嵌入,可能会因为语义噪声而歪曲真实偏好。而通过偏好感知的嵌入,我们可以更好地定位群体意见的中心点(即设施位置),并确保不同观点群体得到公平的代表(即公平聚类)。该方法不仅揭示了现有嵌入模型的固有局限,还提供了一种实用的训练策略,有望推动AI在民主参与和社会选择理论中的应用。