実世界の回帰タスクにおけるデータ駆動型モデリングは、訓練サンプルの不足、データ収集コストの高さ、観測ノイズといった課題にしばしば直面する。コンピュータビジョンや自然言語処理におけるデータ拡張の成功に触発され、ICML 2026で採択された論文は、表形式回帰に特化した新しい技術「反事実残差データ拡張（Counterfactual Residual Data Augmentation, CRDA）」を提案している。
CRDAの核心は、回帰器がデータの系統的成分をモデル化した後、残ったノイズは慎重に選択された特徴の微小な摂動に対して安定した不変残差と見なせるという重要な洞察に基づいている。この残差不変性を利用することで、研究者らは追加の実データを必要とせずに、現実的な分布に沿った新しい訓練サンプルを生成し、データセットを効果的に拡張することができる。
この手法はモデル非依存であり、多層パーセプトロン（MLP）やXGBoostなど様々なタイプの回帰器に容易に適用可能である。複数のベンチマークリポジトリのデータセットを用いた実験では、CRDAは顕著な性能向上を示した。平均して、MLP回帰器の平均二乗誤差（MSE）を22.9%削減し、XGBoost回帰器のMSEを6.4%削減した。既存の最先端データ生成器や拡張技術と比較しても、CRDAはMSEの削減において一貫して優れた性能を発揮する。
訓練データに原理的な反事実変化を加えることで、CRDAはノイズの影響を受けやすく小規模な回帰設定に対するシンプルで効率的な解決策を提供する。この研究は表形式データ拡張の新たな道を開くだけでなく、残差構造を活用したデータ生成の可能性を強調している。論文はHossein Mohebbi氏ら4名の著者によるもので、全25ページ、8つの図表を含み、プロジェクトページも公開されている。第43回国際機械学習会議（ICML 2026）で採択されたこの成果は、arXivを通じてコードやデータを入手できる。