重新審視使用專用模型的ASR錯誤糾正

自動語音識別（ASR）系統中，語言模型對於提升識別準確率至關重要，但傳統方法多采用純文本語言模型，無法有效捕捉ASR特有的錯誤模式。近年來，大語言模型（LLM）被引入ASR錯誤糾正，然而LLM推理延遲高且容易產生幻覺，在實際部署中面臨挑戰。蘋果與谷歌的研究團隊聯合提出了一種基於緊湊序列到序列（seq2seq）模型的ASR錯誤糾正方案，旨在克服LLM的侷限性。

該研究的核心創新在於三個方面：合成訓練資料生成、糾正優先解碼策略以及模型輕量化。為了獲得大規模的訓練資料，研究者設計了級聯文本到語音（TTS）和ASR系統的流水線，自動生成海量的“錯誤音訊-正確文本”配對資料。他們發現，合成資料中錯誤分佈的多樣性是影響模型泛化能力的關鍵因素，因此透過多種TTS和ASR系統的組合來模擬真實世界中的多樣錯誤模式。在推理階段，傳統方法通常先由ASR系統生成初始轉錄，再由糾錯模型進行後處理。而本文提出的“糾正優先解碼”則讓seq2seq糾錯模型直接生成候選糾正結果，然後利用ASR系統的聲學得分對候選結果進行重排序，從而選擇最可靠的最終輸出。

實驗結果表明，儘管該seq2seq模型的引數量僅為LLM的十五分之一，但在LibriSpeech測試集的clean和other兩個子集上，分別取得了1.5%和3.3%的詞錯誤率（WER），顯著優於基於LLM的方法。此外，該模型展現出良好的跨架構泛化能力，能夠適用於CTC、Seq2seq、Transducer等不同的ASR主幹網路，並在多個領域（如醫學、法律等）的測試中保持優勢。尤其值得注意的是，在低錯誤率場景下，LLM往往難以做出精確的區域性修正，而本文的緊湊模型卻能精準糾錯，更具實用性。

這項研究為ASR錯誤糾正提供了一條高效、低延遲的技術路線，特別適合對即時性要求高、計算資源受限的應用場景。未來，該模型有望整合到移動裝置或邊緣計算環境中，推動語音互動技術的普及。