コンピュータビジョンにおける合成データパイプラインは広く利用されているが、既存の手法は生成器の出力空間をランダムにサンプリングするだけで、下流モデルが実際に何を必要としているかを診断していない。この開ループパラダイムは合成データを安価な実データと見なし、大量サンプリングによってモデルの全ての故障モードをカバーしようとする。しかし、これでは合成データの独自の利点、すなわちシーン因子の制御可能で独立した変化を十分に活用できていない。著者のKrisanu Sarkarは、実験計画法(Design of Experiments, DoE)の統計理論に基づく新しい手法——合成設計実験(Synthetic Designed Experiments for Representational Sufficiency, SDRS)を提案し、視覚モデルの障害を系統的に診断・修復する。
SDRSは下流モデルをブラックボックスシステム、合成生成器を実験装置と見なす。部分要因計画(fractional factorial designs)を採用し、分散分析(ANOVA)分解を介してモデルの各シーン因子に対する感度を効率的に監査する。これにより、障害は2つの実用的なタイプに分類される:タイプIギャップ(カバレッジ不足、特定の因子レベルでの訓練データ不足)とタイプIIギャップ(疑似依存、タスクに無関係な疑似相関への依存)。監査後、SDRSは各ギャップタイプに対応する標的合成データを処方する。
著者は3つの実験でSDRSの有効性を検証した。最初の実験では、dSpritesデータセットに人為的バイアスを植え付け、監査が両方のギャップタイプを正しく識別し、標的データにより精度が49.9%から79.0%に向上した。2番目の実験では、プログラム生成シーンにおける密セグメンテーションタスクにおいて、モデルが背景複雑性の近道を利用していることを検出し、標的データを適用することで平均交差比(mIoU)が0.948から0.998に改善した。3番目の実験では、ANOVA監査が不完全な生成器における因子間汚染を検出できることを示し、手法の頑健性を確認した。さらに、各因子に対する不変性ペナルティが因子間で感度を転移させることが明らかになり、表現レベルの修正に関する未解決問題が示唆された。
本研究は現在CVPR SynData4CV 2026で査読中であり、合成データの効果的利用に新たな視点を提供し、制御可能な環境下でのコンピュータビジョンモデルの障害診断とロバスト性向上に貢献することが期待される。