大語言模型(LLM)在生成上下文相關的回覆方面已經取得了顯著進步,但在多輪對話場景中,何時發言與說什麼同樣重要。當LLM在每個可能的時機都回復時,會導致過度打斷和對話連貫性下降。為了解決這一問題,研究人員提出了When2Speak資料集及其配套的四階段生成流水線,旨在訓練模型掌握群體互動中的發言時機。
When2Speak資料集包含超過21.5萬個示例,這些示例源自1.6萬場涉及2至6位參與者的對話。這些對話覆蓋了多種風格、語氣和參與者動態,並在每一輪明確建模“發言”(SPEAK)或“沉默”(SILENT)的決策。流水線結合了現實世界場景、結構化增強、受控轉錄合成以及可直接用於微調的監督訊號,並且完全開源以支援可重複性和領域適應。
在多個模型家族上進行的實驗表明,在When2Speak上進行監督微調(SFT)顯著優於零樣本基線。例如,在引數量超過40億的模型上,平均Macro F1提升了60%,最大提升達到120%。然而,SFT訓練的模型仍然系統性過於保守,錯過了近一半的有根據干預。這一現象透過錯過干預率(MIR)得到量化——平均MIR為0.50,且即使在更大模型上仍然存在。
為了克服這一侷限,研究者應用了非對稱獎勵強化學習(RL)。該方法將MIR降低至0.186–0.218,並將召回率從0.479提升至0.78–0.81。這表明,透過有針對性的訓練,LLM能夠學會更自然的參與時機。
When2Speak的研究確立了時序參與作為對話智慧的一個獨立且可訓練維度的重要性。基於真實的合成資料為增強LLM在多輪互動中的自然性和適當性提供了有效且可擴充套件的路徑。該資料集和流水線現已開放獲取,支援社群進一步探索和應用。