Vision-Language Model(VLM)、例えばCLIPやSigLIP 2は、画像分類に広く利用されています。しかし、これらのビジョンエンコーダは系統的なバイアスに対して脆弱であり、特に前景オブジェクトとその背景との間の擬似相関がロバスト性を損なう大きな要因となっています。モデルは本来の意味的特徴ではなく背景の手がかりに依存してしまうため、背景が変化すると精度が顕著に低下します。
Youssef Zaazou氏らの最新研究では、VLM埋め込み空間が持つ「高い線形加法性」という既知の特性に着目し、この特性を利用することでシーン表現を前景成分と背景成分に分解できることを示しました。この発見は、背景情報を分離するための新たな理論的基盤を提供します。研究チームはこの知見に基づき、合成データを用いて背景不変表現を構築する事前学習手法を提案しました。
本手法の核心は、VLM埋め込み空間の線形構造を活用し、単純なベクトル演算によってタスク非依存の背景情報を分離し、モデルが前景オブジェクトの本質的な特徴に集中できるようにすることです。実験結果によると、Waterbirdsデータセットにおいて訓練データに100%の擬似相関(すべてのサンプルで鳥と背景が完全に連動、マイノリティグループなし)がある条件下で、ワーストグループ精度が90%を超える初めての結果を達成しました。
さらに、本手法はシミュレーションから実世界への転移性能が高く、合成データで訓練したモデルをそのまま実世界の場面に適用できることを示しています。実世界のデバイアスデータを一切必要としないため、実用的な展開に適しています。関連論文はarXivで公開されており、全36ページ、7図から成り、コンピュータビジョン(cs.CV)と人工知能(cs.AI)の両分野にまたがる内容です。論文はYoussef Zaazou氏らにより2026年5月11日に提出されました。この研究は、VLMにおける擬似相関問題に対する簡潔かつ効果的な解決策を提供し、今後の発展を促進するものと期待されます。