图像描述是计算机视觉中的一项重要任务,它使模型能够生成视觉内容的自然语言描述。尽管已有多个面向自然图像和高分辨率光学遥感图像的数据集,但多模态卫星数据(尤其是SAR图像和中分辨率传感器)的描述数据集仍然非常有限。为了填补这一空白,研究团队推出了Sentinel2Cap——一个全新的人工标注多模态图像描述数据集。
Sentinel2Cap数据集基于Sentinel-1 SAR和Sentinel-2多光谱图像构建,包含1300个图像对,空间分辨率分别为10米和20米。这些图像覆盖了多样的土地覆盖类型,如森林、农田、水体、城市区域等。每条描述都由人工手动编写,并经过严格验证,以确保语义准确性和语言质量。整个数据集已经公开,可供研究使用。
为了评估Sentinel2Cap的有效性,研究人员使用Qwen3-VL-8B-Instruct模型进行了零样本图像描述评测。评测涵盖三种图像模态:RGB图像、多光谱图像以及SAR伪RGB表示。结果显示,RGB图像取得了最高的描述性能,而SAR图像对视觉语言模型来说最具挑战性。此外,当提供模态特定的上下文提示时,所有评测指标均得到一致提升。这些发现不仅揭示了多模态遥感图像描述面临的挑战,也凸显了人工标注数据集在推动跨模态场景理解研究中的潜在价值。
未来,团队计划扩展数据集规模,并探索针对SAR图像的专用描述模型。这一工作为遥感图像描述领域提供了重要的基准,有望促进多模态卫星数据智能分析的发展。