電子表格應用被全球數億人使用,但編寫公式仍然是主要障礙。現有方法依賴靜態監督資料,但受限於標註數量,效能很快飽和。針對這一問題,研究者提出了FORMULASPIN,一種自對弈微調框架,能夠在沒有額外資料的情況下實現迭代自我改進,從而突破監督微調的天花板。
原始SPIN方法在此任務上失敗,因為它對所有不匹配輸出進行統一懲罰,導致執行等價的替代公式在一個例子中被視為負例,而在另一個例子中作為真實值,產生相互矛盾的梯度。FORMULASPIN透過利用公式生成的獨特優勢解決這一問題:二進位制可執行性提供了隱性監督,將語義錯誤與有效的風格變體區分開來。該框架將訓練過程構建為兩玩家遊戲,主玩家學習偏向真實公式,而執行反饋將輸出按不同粒度排序,形成從語義正確性到風格最佳化的自適應課程。
為進一步提高準確性,研究者加入了ExecVote機制,一種語義級投票機制,自然地處理多種有效公式表示。實驗在多個基準上進行,包括NL2FORMULA、WikiSQL和Spider等資料集。在NL2FORMULA上,FORMULASPIN達到了74.9%的精確匹配率和87.1%的執行準確率,與使用額外偏好標註訓練的模型相當,同時優於傳統監督微調和前沿專有模型,如GPT-4和Claude。論文被ACL 2026主會議接收為Oral,共15頁、7張圖和14個表格。
這些發現凸顯了自對弈方法在資料稀缺任務中的潛力,併為將其擴充套件到可執行領域之外開啟了大門。例如,該方法可應用於程式碼生成、程式合成等具有可執行反饋的任務。研究者還計劃探索將自對弈框架應用於半結構化資料生成和非可執行領域。