跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

DuplexGen:自適應合成人機輪流對話

文章摘要

DuplexGen是一個透過校準LLM預測與少量人類偏好註釋來生成場景自適應輪流對話的框架。實驗表明,該方法在六個合作與競爭任務中比未校準的提示或通用資料訓練更符合人類偏好,證明人類校準是關鍵。

來源arXiv Computational Linguistics作者: Takyoung Kim, Kang-wook Kim, Sang Hoon Woo, Julia Hirschberg, Gunhee Kim, Dilek Hakkani-T\"ur
DuplexGen:自適應合成人機輪流對話
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

全雙工互動中,輪流對話是核心組成部分。然而,現有的模型往往採用統一的輪流規範,忽視了不同場景下的適當行為差異。這一侷限源於訓練資料:人類對話語料雖捕捉了自然時序,但缺乏角色基礎和場景特定規範;而啟發式或提示驅動的合成方法則未基於人類偏好。為解決這一問題,研究團隊提出了DuplexGen框架,透過將大型語言模型(LLM)的預測與少量槽級人類偏好標註進行校準,生成具有場景適應性的輪流對話。

研究涵蓋了六種合作與競爭任務,包括資訊獲取、協作任務和競爭性談判等場景。實驗發現,人類在輪流對話中的偏好存在系統性差異:例如在合作場景中,人們傾向於更均勻的輪流;而在競爭場景中,則可能出現更長的說話輪次或打斷。DuplexGen透過收集少量槽級的人類偏好標註(每個任務約50-100個標註),利用這些標註校準LLM的輸出,使得生成的對話在輪流行為上更符合人類在不同場景下的期望。

與未校準的提示(即直接讓LLM模擬人類對話)或僅使用通用人類對話資料訓練的方法相比,DuplexGen生成的對話與人類偏好顯著更吻合。進一步實驗表明,基於DuplexGen資料訓練的全雙工模型展現出獨特且符合人類偏好的輪流行為,例如在適當的時候給予反饋或等待。這些結果強調,人類校準而非語料規模或提示設計,才是實現在不同場景下生成符合人類期望的輪流對話的關鍵。

展開要點與分析

文章情報

工程師進階

要點

  • 當前輪流對話模型缺乏場景適應性,源於訓練資料單一。
  • DuplexGen透過人類偏好校準實現自適應對話生成。
  • 在多個任務中,DuplexGen生成的資料訓練的模型表現出人類偏好的輪流行為。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。