AI News HubLIVE
サイト内リライト1 分で読了

安定性と表現力のギャップを埋める:低リソース音声言語モデルのための合成データスケーリングと嗜好アライメント

研究者らは、低リソース言語の音声言語モデルにおいて合成データを使用する際の「安定性-表現力ギャップ」を特定し、韻律の多様性を回復する2つの自己アライメントフレームワーク(DGSAおよびTDSC)を提案。ElevenLabsやGemini Proなどの商用システムを凌駕し、ラオ語での初のゼロショット音声クローンを実現。

ソースarXiv Computational Linguistics著者: Yizhong Geng, Yanliang Li, Jinghan Yang, Tianhan Jiang, Boxun An, Ya Li, Xiaoyu Shen

音声言語モデル(SLM)は、明示的な書記素-音素パイプラインを回避することで、音声合成の有望なパラダイムとして登場しました。しかし、低リソース言語におけるその有効性は、書き起こし音声の不足によって根本的に制限されています。実際には、合成データがそのような状況でSLMを拡張するための主要な戦略となっており、実データが不十分な場合に信頼性の高い音素監督を提供します。本研究では、この依存関係が「安定性-表現力ギャップ」と呼ばれる基本的なトレードオフをもたらすことを示します。合成データは音素精度を向上させる一方で、徐々に韻律の多様性を抑制し、最終的に表現力の崩壊(合成浸食)を引き起こします。

このギャップを埋めるために、研究者らは2つの自己アライメントフレームワークを提案しています。解耦誘導自己アライメント(DGSA)は、韻律-音色分離を活用して複雑な言語の表現力を回復します。真正な参照が極めて限られている状況では、温度駆動自己批判(TDSC)が自動探索とフィルタリングを通じて生成を安定化します。

実験結果により、本アプローチはElevenLabsやGemini Proなどの強力な商用システムを上回り、ラオ語での初のゼロショット音声クローン機能を実現しました。この成果は、低リソース言語の音声合成技術に新たな可能性をもたらし、音声インタラクション、教育、アクセシビリティなどの分野での応用が期待されます。