Ant GroupのRobbyant、LingBot-Visionをオープンソース化：高密度空間知覚のための10億パラメータ境界中心ビジョン基盤モデル

Ant Group傘下の具現化AI企業Robbyantは、高密度空間知覚タスク向けに設計された自己教師ありビジョントランスフォーマー（ViT）のファミリー「LingBot-Vision」をオープンソース化しました。モデルの重みはApache-2.0ライセンスでHugging Faceに公開され、ViT-giant、ViT-large、ViT-base、ViT-smallの4サイズに加え、技術レポートと推論コードも提供されています。

従来のビジョン基盤モデルはセマンティック不変性を目的に訓練されます。つまり、画像内の「何か」を学習する一方で、ロボットなどの物理システムに不可欠な物体境界、輪郭、深度不連続といった詳細な空間構造を捨て去ります。LingBot-Visionはこの優先順位を逆転させ、境界をダウンストリームの出力ではなくネイティブな事前学習信号として扱います。その結果、10億パラメータのバックボーンは、70億パラメータのDINOv3を含む7倍以上の大規模モデルに匹敵または凌駕する性能を密集空間タスクで発揮します。

LingBot-Visionの中核はマスク境界モデリングです。この手法はDINO/iBOTの自己蒸留パラダイムに基づきますが、2つの重要な革新を導入します：境界強制とカテゴリ境界フィールドです。教師モデルはオンラインで密な境界フィールドを予測し、境界トークンを強制的に生徒のマスクセットに追加します。境界トークンは幾何学的目標とセマンティック目標の両方を受け取る一方、内部のマスクトークンは標準的なセマンティック目標のみを受け取ります。カテゴリ境界フィールドは各チャネルをK=32のビンに離散化し、境界予測をピクセル単位の分類問題に変換することで、現代の自己蒸留を安定化させるメカニズムを継承します。また、カテゴリ形式はパラメータフリーのNFA（偽警報数）検定を自然にサポートし、境界線分を検証します。

ベンチマークでは、LingBot-Visionは優れた結果を示しています。NYU-Depth v2ではRMSE 0.296を達成し、70億パラメータのDINOv3（0.309）を上回りました。KITTIでは20億パラメータ未満のモデルで最高性能です。セマンティックセグメンテーションでは、蒸留DINOv3 ViT-H+と同等で、ADE20Kで1.3 mIoU劣るものの、Cityscapesで同等、VOC12で優れています。動画オブジェクトセグメンテーションでは、凍結特徴量のコサイン類似度マッチングにより、DAVIS-2017で70.0 J&F、YouTube-VOSで73.5を達成し、70億パラメータのDINOv3に匹敵します。

さらに、LingBot-Visionはダウンストリームの深度補完システムLingBot-Depth 2.0の初期化エンコーダとしても使用されています。エンコーダをDINOv2からLingBot-Visionに変更し、訓練データを300万から1.5億に拡大しただけで、14の深度補完ベンチマークで最先端の結果を達成しました。特筆すべきは、データ量が増えるにつれてLingBot-Visionの優位性が拡大する一方、DINOv2では頭打ちになる点です。

ユーザーは公式GitHubリポジトリからモデルを簡単に読み込めます。推論コードはHugging Faceから自動的に重みをダウンロードし、パッチトークンを抽出してダウンストリームタスクに利用できます。LingBot-Visionの公開は、高密度空間知覚分野における重要な一歩であり、ロボットや自動運転などの応用に強力な事前学習基盤を提供します。