蚂蚁集团 Robbyant 开源 LingBot-Vision：面向密集空间感知的 10 亿参数边界中心视觉基础模型

蚂蚁集团旗下的具身智能公司 Robbyant 近日开源了 LingBot-Vision，这是一系列自监督的视觉 Transformer（ViT），专为密集空间感知任务设计。该系列的模型权重以 Apache-2.0 许可在 Hugging Face 上发布，包含 ViT-giant、ViT-large、ViT-base 和 ViT-small 四种尺寸，同时提供了技术报告和推理代码。

传统的视觉基础模型通常针对语义不变性进行训练：它们学习图像中的内容，却丢弃了机器人等物理实体系统所依赖的精细空间结构，例如物体边界、轮廓和深度不连续。LingBot-Vision 颠覆了这一优先级，将边界作为原生预训练信号，而不是下游任务的输出。其 10 亿参数的骨干网络在密集空间任务上匹配甚至超越了比它大 7 倍的模型，包括 7B 的 DINOv3。

LingBot-Vision 的核心创新在于掩码边界建模。该方法基于 DINO/iBOT 自蒸馏范式，但引入两个关键改进：边界强制和分类边界场。边界强制让教师模型在线预测密集边界场，并强制将边界令牌加入学生的掩码集合，使得边界令牌同时接收几何和语义目标，而内部掩码令牌只保留标准语义目标。分类边界场则将每个通道离散化为 32 个箱子，将边界预测转化为逐像素分类任务，从而利用现代自蒸馏的稳定机制。此外，分类形式自然支持无参数的无假警报（NFA）检验，用于验证边界线段。

在基准测试中，LingBot-Vision 表现出色。在 NYU-Depth v2 上，其 RMSE 达到 0.296，优于 7B 的 DINOv3（0.309）。在 KITTI 上，它是 2B 参数以下的最佳模型。在语义分割方面，它与蒸馏的 DINOv3 ViT-H+ 相当，在 ADE20K 上落后 1.3 mIoU，在 Cityscapes 上持平，在 VOC12 上领先。在视频目标分割中，通过冻结特征的余弦相似度匹配，它在 DAVIS-2017 上达到 70.0 J&F，在 YouTube-VOS 上达到 73.5，与 7B 的 DINOv3 相当。

LingBot-Vision 还作为下游深度补全系统 LingBot-Depth 2.0 的初始化编码器。仅通过将编码器从 DINOv2 切换为 LingBot-Vision 并将训练数据从 300 万扩展到 1.5 亿，就在 14 个基准测试上取得了领先结果。值得注意的是，随着数据量增加，LingBot-Vision 初始化的优势进一步扩大，而 DINOv2 的收益则趋于饱和。

用户可以通过官方 GitHub 仓库轻松加载模型。推理代码支持从 Hugging Face 自动下载权重，并提取贴片令牌用于下游任务。LingBot-Vision 的发布标志着在密集空间感知领域迈出了重要一步，为机器人、自动驾驶等应用提供了强大的预训练基础。