専用モデルによるASR誤り訂正の再検討

自動音声認識（ASR）において言語モデルは重要な役割を果たすが、従来の手法はテキストのみに依存しており、ASR特有の誤りパターンを考慮していない。近年、大規模言語モデル（LLM）をASR誤り訂正に適用する試みがなされているが、LLMは推論遅延が大きく、幻覚（hallucination）を引き起こす問題がある。AppleとGoogleの研究チームは、この問題に取り組むため、コンパクトな系列変換（seq2seq）モデルを用いたASR誤り訂正手法を再検討した。

本研究の主な貢献は以下の3点である。第一に、大規模な訓練データを確保するため、テキスト音声合成（TTS）とASRシステムをカスケード接続した合成データ生成パイプラインを構築した。この手法により、実際のASR誤り分布を模倣した多様な誤りパターンを持つペアデータを大量に生成できる。第二に、「訂正優先デコード」と呼ばれる新しい推論戦略を提案した。これは、seq2seqモデルが複数の訂正候補を生成し、ASRの音響スコアを用いて再ランク付けすることで、最も信頼性の高い出力を選択する方式である。第三に、モデル自体を軽量化し、LLMの15分の1のパラメータ数で同等以上の性能を実現した。

実験では、LibriSpeechテストセット（cleanおよびother）において、提案モデルがそれぞれ1.5%および3.3%の単語誤り率（WER）を達成し、LLMベースの手法を上回った。さらに、CTC、Seq2seq、Transducerなど異なるASRアーキテクチャに対して汎化可能であり、医療や法律など多様なドメインでも高い性能を示した。特に、誤り率が低い状況ではLLMが苦手とする精密な訂正が可能であり、実用上の優位性が確認された。

この研究は、ASR誤り訂正における効率的で低レイテンシな代替手段を提供し、リソース制約のある環境やリアルタイム性が要求されるアプリケーションへの応用が期待される。今後の展開として、モバイルデバイスやエッジコンピューティングへの組み込みが考えられる。