加權對比學習的統一幾何框架
本研究提出將加權InfoNCE目標解釋為距離幾何問題，為加權對比學習提供了統一的幾何框架。在監督分類中，SupCon和Soft SupCon將同類樣本收縮到單一原型，但類別不平衡會破壞SupCon的對稱性，而Soft SupCon仍保持正則單形體幾何。在連續標籤設置中，y-Aware CL通常無法達到熵最優，除非標籤位於超球面上。幾何一致的權重選擇（如歐幾里得-歐幾里得權重或X-CLR）則能保證唯一最優嵌入。
一篇發表在arXiv上的新論文《A Unified Geometric Framework for Weighted Contrastive Learning》為加權對比學習提供了統一的幾何視角。該研究由Raphael Vock等人完成，論文編號2605.13943。
對比學習旨在通過學習反映樣本間相似性圖的表示來保持樣本間的結構關係。然而，所得嵌入的幾何性質一直未被充分理解。該研究首次證明，加權InfoNCE目標可以解釋為距離幾何問題，其中權重方案指定了表示需要實現的目標幾何。這一視角為多種監督和弱監督目標的最優嵌入提供了精確刻畫。
在監督分類場景中，標準SupCon及其稠密鬆弛版本Soft SupCon都會將每個類內的樣本收縮到單一原型。當類別平衡時，SupCon恢復經典的正則單形體幾何；但類別不平衡會打破這種對稱性：SupCon根據類大小產生非均勻的類間相似性，而Soft SupCon則無論類別是否不平衡都能保持正則單形體幾何。
對於連續標籤設置，該框架揭示了一種不同的失敗模式：除非標籤本身就位於超球面上，否則y-Aware對比學習通常無法達到其熵最優狀態，這暴露了歐幾里得標籤權重與球形潛在相似性之間的不匹配。相比之下，幾何一致的權重選擇（如歐幾里得-歐幾里得權重或X-CLR）能夠保證唯一的最優嵌入。
這些結果表明，權重方案的選擇決定了對比學習在幾何上是可實現的、退化的還是不兼容的，為設計對比學習目標提供了原則性框架。該研究對理解對比學習的內部機制以及改進實際應用中的表示質量具有重要意義。