加权对比学习的统一几何框架
本研究提出将加权InfoNCE目标解释为距离几何问题，为加权对比学习提供了统一的几何框架。在监督分类中，SupCon和Soft SupCon将同类样本收缩到单一原型，但类别不平衡会破坏SupCon的对称性，而Soft SupCon仍保持正则单形体几何。在连续标签设置中，y-Aware CL通常无法达到熵最优，除非标签位于超球面上。几何一致的权重选择（如欧几里得-欧几里得权重或X-CLR）则能保证唯一最优嵌入。
一篇发表在arXiv上的新论文《A Unified Geometric Framework for Weighted Contrastive Learning》为加权对比学习提供了统一的几何视角。该研究由Raphael Vock等人完成，论文编号2605.13943。
对比学习旨在通过学习反映样本间相似性图的表示来保持样本间的结构关系。然而，所得嵌入的几何性质一直未被充分理解。该研究首次证明，加权InfoNCE目标可以解释为距离几何问题，其中权重方案指定了表示需要实现的目标几何。这一视角为多种监督和弱监督目标的最优嵌入提供了精确刻画。
在监督分类场景中，标准SupCon及其稠密松弛版本Soft SupCon都会将每个类内的样本收缩到单一原型。当类别平衡时，SupCon恢复经典的正则单形体几何；但类别不平衡会打破这种对称性：SupCon根据类大小产生非均匀的类间相似性，而Soft SupCon则无论类别是否不平衡都能保持正则单形体几何。
对于连续标签设置，该框架揭示了一种不同的失败模式：除非标签本身就位于超球面上，否则y-Aware对比学习通常无法达到其熵最优状态，这暴露了欧几里得标签权重与球形潜在相似性之间的不匹配。相比之下，几何一致的权重选择（如欧几里得-欧几里得权重或X-CLR）能够保证唯一的最优嵌入。
这些结果表明，权重方案的选择决定了对比学习在几何上是可实现的、退化的还是不兼容的，为设计对比学习目标提供了原则性框架。该研究对理解对比学习的内部机制以及改进实际应用中的表示质量具有重要意义。