跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

模态内近邻不会说谎:基于图内模态推理矫正跨模态噪声对应

文章摘要

该论文提出IN2R框架,不再依赖离散标签选择,而是利用模态内数据的几何稳定性,通过图精炼器在动态跨模型记忆的邻居上进行关系推理,合成连续软原型来矫正跨模态噪声对应。在Flickr30K、MS-COCO和CC152K上的实验表明其显著优于现有方法。

来源arXiv Computer Vision作者: Yang Liu, Wentao Feng, Shu-Dong Huang, Yalan Ye, Jiancheng Lv
模态内近邻不会说谎:基于图内模态推理矫正跨模态噪声对应
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

跨模态检索是连接图像与文本的重要技术,而大规模网络采集数据集虽然推动了该领域的进步,却不可避免地带来“噪声对应”问题——即图像与文本之间的配对关系本身是错误的。这种噪声会严重削弱模型的泛化能力。针对这一问题,来自Yang Liu等五位作者的研究提出了一种新的框架,论文题为《模态内近邻不会说谎:通过基于图的模态内推理纠正跨模态噪声对应》,被国际机器学习大会(ICML 2026)接收,并于2026年6月2日提交至arXiv(编号arXiv:2606.04061,属于计算机视觉与模式识别方向cs.CV)。

现有方法大多通过过滤噪声样本或寻找替代标签来处理噪声,但研究者指出,这些做法始终受限于一种“离散选择”范式。他们认为,依赖单一离散代理会带来两个问题:一是“单点脆弱性”,即一旦所选代理有误,监督信号便随之失效;二是“离散化误差”,即把连续语义关系强行压缩为离散标签所造成的信息损失。

为突破这些限制,作者提出了“模态内近邻感知噪声纠正”(Intra-modal Neighbor-aware Noise Rectification,简称IN2R)框架。其核心思路是将范式从“寻找替代标签”转变为“合成可靠的监督目标”。该方法利用模态内数据本身固有的几何稳定性,借助一个图精炼器(Graph Refiner),对从动态的跨模型记忆(Cross-Model Memory)中检索出的近邻执行关系推理。与传播离散标签不同,IN2R合成的是一个连续的软原型,该原型反映了局部语义邻域内的共识,从而有效纠正跨模态之间的错位。

在实验部分,研究者在Flickr30K、MS-COCO和CC152K三个数据集上进行了广泛测试,结果表明IN2R显著优于当前最先进的方法。论文的代码与预训练模型已在GitHub公开(https://github.com/liuyyy111/IN2R),便于社区复现与后续研究。该工作为跨模态检索中的噪声对应问题提供了一种新的思路,即从离散标签选择转向基于模态内近邻关系的连续监督合成。

展开要点与分析

文章情报

工程师进阶

要点

  • 现有方法受限于离散选择范式,导致单点脆弱性和离散化误差
  • IN2R利用模态内近邻的几何稳定性,通过图精炼器合成连续软原型
  • 在Flickr30K、MS-COCO、CC152K上显著超越SOTA

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。