本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

When2Speak:マルチパーティ会話におけるタイミング参加とターンテイキングのための大規模言語モデル向けデータセット

記事の要約

大規模言語モデル(LLM)は文脈に適した応答生成に優れるが、マルチパーティ会話における発言タイミングは重要な課題である。本論文では、2~6話者の1.6万件の会話から派生した21.5万以上のサンプルからなるWhen2Speakデータセットと、介入タイミング学習のための4段階生成パイプラインを提案する。教師ありファインチューニング(SFT)により4B+パラメータモデルの平均Macro F1が60%向上するが、モデルは過度に保守的であり、平均介入機会損失率(MIR)は0.50である。非対称報酬を用いた強化学習によりMIRは0.186~0.218に低減し、再現率は0.479から0.78~0.81に向上する。本研究は、タイミング参加が訓練可能な会話知能の次元であることを示す。

ソースarXiv Computational Linguistics著者: Vihaan Nama, Shreya Mendi, Zian Ye, Brinnae Bent
When2Speak:マルチパーティ会話におけるタイミング参加とターンテイキングのための大規模言語モデル向けデータセット
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

大規模言語モデル(LLM)は文脈に適した応答を生成する能力に優れていますが、マルチパーティ会話においては「いつ発言すべきか」という判断が「何を言うか」と同様に重要です。各ターンで単純に応答すると、過剰な割り込みが発生し、会話の一貫性が損なわれます。この問題に対処するため、研究チームはWhen2Speakデータセットと、グループインタラクションにおける介入タイミングを学習するための4段階生成パイプラインを提案しました。

When2Speakデータセットは、2~6人の話者による1万6千件の会話から派生した21万5千以上のサンプルで構成されています。これらの会話は多様なスタイル、トーン、参加者ダイナミクスをカバーし、各ターンで「発言」か「沈黙」の判断が明示的にモデル化されています。パイプラインは、現実世界の基盤、構造化拡張、制御されたトランスクリプト合成、ファインチューニング可能な監視信号を組み合わせており、完全にオープンソース化されているため、再現性やドメイン固有の会話規範への適応が可能です。

複数のモデルファミリーでの実験では、When2Speakでの教師ありファインチューニング(SFT)がゼロショットベースラインを大幅に上回りました。例えば、40億パラメータ以上のモデルでは平均Macro F1が60%向上し、最大で120%の改善が見られました。しかし、SFTで訓練されたモデルは依然として系統的に過度に保守的であり、有効な介入の約半数を見逃していました。この問題は介入機会損失率(MIR)で定量化され、平均MIRは0.50であり、より大規模なモデルでも同様でした。

この制限を克服するために、研究チームは非対称報酬を用いた強化学習(RL)を適用しました。その結果、MIRは0.186~0.218に低減し、再現率は0.479から0.78~0.81に向上しました。これにより、ターゲットを絞った訓練を通じてLLMがより自然なタイミングで参加できるようになることが示されました。

When2Speakの研究は、タイミング参加が会話知能の独立した訓練可能な次元であることを確立しました。現実世界に基づく合成データは、LLMがマルチパーティインタラクションにより自然かつ適切に参加できるようにするための効果的でスケーラブルな経路を提供します。このデータセットとパイプラインは現在公開されており、コミュニティによるさらなる探求と応用が可能です。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • When2Speakデータセットは、2~6話者による1.6万件の会話から21.5万以上の例を含み、各ターンで「発言/沈黙」をモデル化。
  • 教師ありファインチューニング(SFT)により4B+モデルの平均Macro F1が60%向上するが、MIRは0.50と高い。
  • 非対称報酬を用いた強化学習によりMIRは0.186~0.218に低減し、再現率は0.479から0.78~0.81に向上。
  • タイミング参加が訓練可能な会話知能の次元であることを示し、LLMの自然な参加を可能にするスケーラブルな手法を提供。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。