強化學習中的可驗證獎勵(RLVR)在生成展開(rollout)時面臨一個關鍵瓶頸:許多采樣的提示會產生飽和組(即所有回答完全正確或全部錯誤),這些組的獎勵方差為零,無法為策略梯度提供任何有效信號。現有的應對方法要麼對更大的候選池進行過採樣並丟棄飽和提示(即動態採樣),但這會付出高昂的額外展開成本;要麼在採樣前預測提示難度,但這種方法在策略變化時顯得十分脆弱。
研究人員觀察到一個重要現象:一個組的有效性通常在其最初的幾個展開中就能被判定。因此,對已經確定了有效或飽和的提示繼續使用完整的展開組無疑是巨大的浪費。為了解決這一問題,他們創新性地將逐步展開收集建模為一個受預算約束的順序分配(最優停止)問題,並提出了SARA(Sequential Adaptive Rollout Allocation)方法。SARA維護着每個提示成功率的貝塔後驗分佈,能夠評估組有效性的閉合形式預測器,並應用一個雙閾值的序貫概率比檢驗(SPRT)風格規則:一旦某個提示被認定為有效組,系統會立即承諾對其進行充分探索;而對於飽和組,則在短暫的探測後果斷放棄,並將釋放出的預算重新分配給新的提示,整個過程無需額外的預測展開。
在理論層面,研究團隊系統地證明了放棄飽和組的可靠性、預期展開節省量、固定預算下的收益率優勢,以及有效組收益率與GRPO梯度範數之間的內在聯繫。在實際實驗中,他們使用單個GPU上的1.5B和3B模型進行數學推理和規劃任務。結果顯示,SARA的性能與動態採樣(DPS)相當(兩者均低於DS oracle),但展開次數比DS減少了22%;而當SARA與DPS組合使用時,準確率甚至略高於DS,同時展開次數減少了67%,成本接近均勻分佈。這一成果為RLVR的高效計算提供了切實可行的新路徑。