跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

Sentinel2Cap:多模态遥感图像描述的人工标注基准数据集

文章摘要

Sentinel2Cap是一个包含Sentinel-1 SAR和Sentinel-2多光谱图像的人工标注数据集,用于多模态遥感图像描述。研究使用Qwen3-VL-8B-Instruct模型进行零样本评测,发现RGB图像表现最佳,SAR图像最具挑战性,而模态特定的上下文提示可提升性能。

来源arXiv Computer Vision作者: Lucrezia Tosato, Gianluca Lombardi, Ronny Hansch
Sentinel2Cap:多模态遥感图像描述的人工标注基准数据集
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

图像描述是计算机视觉中的一项重要任务,它使模型能够生成视觉内容的自然语言描述。尽管已有多个面向自然图像和高分辨率光学遥感图像的数据集,但多模态卫星数据(尤其是SAR图像和中分辨率传感器)的描述数据集仍然非常有限。为了填补这一空白,研究团队推出了Sentinel2Cap——一个全新的人工标注多模态图像描述数据集。

Sentinel2Cap数据集基于Sentinel-1 SAR和Sentinel-2多光谱图像构建,包含1300个图像对,空间分辨率分别为10米和20米。这些图像覆盖了多样的土地覆盖类型,如森林、农田、水体、城市区域等。每条描述都由人工手动编写,并经过严格验证,以确保语义准确性和语言质量。整个数据集已经公开,可供研究使用。

为了评估Sentinel2Cap的有效性,研究人员使用Qwen3-VL-8B-Instruct模型进行了零样本图像描述评测。评测涵盖三种图像模态:RGB图像、多光谱图像以及SAR伪RGB表示。结果显示,RGB图像取得了最高的描述性能,而SAR图像对视觉语言模型来说最具挑战性。此外,当提供模态特定的上下文提示时,所有评测指标均得到一致提升。这些发现不仅揭示了多模态遥感图像描述面临的挑战,也凸显了人工标注数据集在推动跨模态场景理解研究中的潜在价值。

未来,团队计划扩展数据集规模,并探索针对SAR图像的专用描述模型。这一工作为遥感图像描述领域提供了重要的基准,有望促进多模态卫星数据智能分析的发展。

展开要点与分析

文章情报

工程师进阶

要点

  • 数据集包含1300个10米和20米空间分辨率的图像对,覆盖多样化土地覆盖类型。
  • 人工标注并验证了超2500条描述,确保语义准确和语言质量。
  • 零样本评测显示RGB图像最优,SAR图像对视觉语言模型更具挑战性。
  • 提供模态特定提示可一致提升所有指标,验证了多模态数据集的潜力。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。