2026年5月13日に投稿された本論文は、Trung Nguyen Quang氏ら6名の著者によるもので、計算言語学(cs.CL)と音響(cs.SD)の分野に属し、音声大規模言語モデル(Audio LLM)がコードスイッチング音声を書き起こす際の信頼性の問題を扱っている。著者らは、現在の多言語Audio LLMが多言語環境で高い性能を示す一方、話者が同一文内で二つの言語を切り替えるコードスイッチングの場面では系統的な失敗を起こすと指摘する。
研究は英語と北京語の混合音声を対象とし、三つの典型的な失敗モードを整理している。第一は言語の欠落で、出力時に一方の言語の内容が失われる。第二は書き起こしの代わりに翻訳が行われるケースで、話者が実際に発した語をそのまま記録せず、混合言語を単一言語に翻訳してしまう。第三は幻覚で、元の音声に存在しない内容をモデルが生成してしまう。これらの問題は、多言語能力が混合言語の文脈で忠実な書き起こしを行う能力と等しくないことを示している。
この問題に対処するため、著者らは直接選好最適化(DPO)を用いてモデルをアラインメントする。具体的には選好ペアを構築し、選ばれた応答は混合言語の構成をそのまま保持し、拒否された応答は前述の失敗パターンを意図的に模倣する。これにより、どのような出力が正しいコードスイッチングの書き起こしかをモデルに直接学習させる。
実験では100Kの選好ペア、約570時間のデータを用いて3つの異なるAudio LLMを訓練した。その結果、モデルの行動には一貫した変化が見られ、書き起こしを求められた際に内容を単一言語へ翻訳するのではなく、言語の構成を保つようになった。このアラインメントの効果は混同エラー率(MER)に現れ、分布内のシナリオでは最大89.6%、分布外でも20.0%の削減を達成した。
著者らはこの結果から、DPOが多言語Audio LLMの正しいコードスイッチング書き起こし行動を効果的に引き出せると結論づけている。この知見の意義は、モデル構造を再設計することなくアラインメント手法によって混合言語場面での系統的な偏りを補正できることを示した点にあり、他の言語ペアやより広範な多言語音声タスクへの応用の参考になると考えられる。