跨模态检索是连接图像与文本的重要技术,而大规模网络采集数据集虽然推动了该领域的进步,却不可避免地带来“噪声对应”问题——即图像与文本之间的配对关系本身是错误的。这种噪声会严重削弱模型的泛化能力。针对这一问题,来自Yang Liu等五位作者的研究提出了一种新的框架,论文题为《模态内近邻不会说谎:通过基于图的模态内推理纠正跨模态噪声对应》,被国际机器学习大会(ICML 2026)接收,并于2026年6月2日提交至arXiv(编号arXiv:2606.04061,属于计算机视觉与模式识别方向cs.CV)。
现有方法大多通过过滤噪声样本或寻找替代标签来处理噪声,但研究者指出,这些做法始终受限于一种“离散选择”范式。他们认为,依赖单一离散代理会带来两个问题:一是“单点脆弱性”,即一旦所选代理有误,监督信号便随之失效;二是“离散化误差”,即把连续语义关系强行压缩为离散标签所造成的信息损失。
为突破这些限制,作者提出了“模态内近邻感知噪声纠正”(Intra-modal Neighbor-aware Noise Rectification,简称IN2R)框架。其核心思路是将范式从“寻找替代标签”转变为“合成可靠的监督目标”。该方法利用模态内数据本身固有的几何稳定性,借助一个图精炼器(Graph Refiner),对从动态的跨模型记忆(Cross-Model Memory)中检索出的近邻执行关系推理。与传播离散标签不同,IN2R合成的是一个连续的软原型,该原型反映了局部语义邻域内的共识,从而有效纠正跨模态之间的错位。
在实验部分,研究者在Flickr30K、MS-COCO和CC152K三个数据集上进行了广泛测试,结果表明IN2R显著优于当前最先进的方法。论文的代码与预训练模型已在GitHub公开(https://github.com/liuyyy111/IN2R),便于社区复现与后续研究。该工作为跨模态检索中的噪声对应问题提供了一种新的思路,即从离散标签选择转向基于模态内近邻关系的连续监督合成。