用於迴歸的反事實殘差資料增強技術

在現實世界的迴歸任務中，資料驅動建模常常面臨訓練樣本有限、收整合本高昂以及觀測噪聲大等嚴峻挑戰。受計算機視覺和自然語言處理領域資料增強技術成功應用的啟發，來自Hossein Mohebbi等人的研究團隊提出了一種名為反事實殘差資料增強（Counterfactual Residual Data Augmentation, CRDA）的新技術，專門用於表格資料迴歸問題。該技術的核心洞察在於：當迴歸器成功建模了資料中的系統成分後，剩餘的噪聲可以被視為一種不變的殘差，在精心選擇的特徵受到微小擾動時保持穩定。利用這一殘差不變性，CRDA能夠生成全新且真實的訓練樣本，從而有效擴充資料集，無需額外收集真實資料。CRDA是一種模型無關的方法，可以輕鬆應用於各種型別的迴歸器，包括多層感知機（MLP）和XGBoost等。在多個基準資料集上的實驗表明，平均而言，CRDA使MLP迴歸器的均方誤差（MSE）降低了22.9%，使XGBoost迴歸器的MSE降低了6.4%。相比現有最先進的資料生成和增強技術，CRDA在MSE降低方面始終表現更優。該方法透過向訓練資料中加入合理的反事實變體，為噪聲多、樣本少的迴歸場景提供了一種簡單而高效的解決方案。該論文已被第43屆國際機器學習大會（ICML 2026）接收，全文共25頁，包含8張圖表，並提供了專案頁面供進一步參考。CRDA的應用前景廣闊，尤其適用於金融預測、醫療診斷、工業控制等資料稀缺且噪聲顯著的領域，有望顯著提升迴歸模型的效能與泛化能力。