本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

音声LLMにおける英語・北京語コードスイッチング音声認識のための直接選好最適化

記事の要約

本論文は、音声大規模言語モデル(Audio LLM)が英語と北京語が混在するコードスイッチング音声の書き起こしで示す系統的な失敗に着目し、直接選好最適化(DPO)によるアラインメントを提案する。混合言語の内容を保持する応答を選好し、失敗パターンを模倣する応答を棄却する選好ペアを構築し、100Kペア(570時間)で3つのAudio LLMを訓練した結果、翻訳ではなく言語構成を保持するようになり、MERは分布内で最大89.6%、分布外で20.0%削減された。

ソースarXiv Computational Linguistics著者: Trung Nguyen Quang, Cheng Yi Lewis Won, Minh Duc Pham, Yingxu He, Shuo Sun, Ai Ti Aw
音声LLMにおける英語・北京語コードスイッチング音声認識のための直接選好最適化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

2026年5月13日に投稿された本論文は、Trung Nguyen Quang氏ら6名の著者によるもので、計算言語学(cs.CL)と音響(cs.SD)の分野に属し、音声大規模言語モデル(Audio LLM)がコードスイッチング音声を書き起こす際の信頼性の問題を扱っている。著者らは、現在の多言語Audio LLMが多言語環境で高い性能を示す一方、話者が同一文内で二つの言語を切り替えるコードスイッチングの場面では系統的な失敗を起こすと指摘する。

研究は英語と北京語の混合音声を対象とし、三つの典型的な失敗モードを整理している。第一は言語の欠落で、出力時に一方の言語の内容が失われる。第二は書き起こしの代わりに翻訳が行われるケースで、話者が実際に発した語をそのまま記録せず、混合言語を単一言語に翻訳してしまう。第三は幻覚で、元の音声に存在しない内容をモデルが生成してしまう。これらの問題は、多言語能力が混合言語の文脈で忠実な書き起こしを行う能力と等しくないことを示している。

この問題に対処するため、著者らは直接選好最適化(DPO)を用いてモデルをアラインメントする。具体的には選好ペアを構築し、選ばれた応答は混合言語の構成をそのまま保持し、拒否された応答は前述の失敗パターンを意図的に模倣する。これにより、どのような出力が正しいコードスイッチングの書き起こしかをモデルに直接学習させる。

実験では100Kの選好ペア、約570時間のデータを用いて3つの異なるAudio LLMを訓練した。その結果、モデルの行動には一貫した変化が見られ、書き起こしを求められた際に内容を単一言語へ翻訳するのではなく、言語の構成を保つようになった。このアラインメントの効果は混同エラー率(MER)に現れ、分布内のシナリオでは最大89.6%、分布外でも20.0%の削減を達成した。

著者らはこの結果から、DPOが多言語Audio LLMの正しいコードスイッチング書き起こし行動を効果的に引き出せると結論づけている。この知見の意義は、モデル構造を再設計することなくアラインメント手法によって混合言語場面での系統的な偏りを補正できることを示した点にあり、他の言語ペアやより広範な多言語音声タスクへの応用の参考になると考えられる。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Audio LLMのコードスイッチング書き起こしにおける3つの失敗モード(言語の欠落、書き起こしの代わりの翻訳、幻覚)を特定。
  • 選好ペアを構築してDPOを適用し、選好応答は混合言語の内容を保持し、棄却応答は失敗パターンを模倣する。
  • 100Kペア(570時間)で3つのAudio LLMを訓練し、言語構成を保持する方向へ一貫した行動変化を確認。
  • MERは分布内で最大89.6%、分布外で20.0%低下した。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。