基於MiniLM嵌入的多簇邊界學習方法用於超出範圍意圖檢測
本研究提出了一種基於MiniLM嵌入的多簇邊界學習方法，用於檢測超出範圍（OOS）意圖。該方法克服了傳統多類分類精度隨類別數下降以及LLM嵌入參數大的問題，在三個公共數據集上實現了最先進的性能。
意圖檢測在人機交互系統中扮演着至關重要的角色，它負責將用户的自然語言輸入映射到系統能夠理解的預定義意圖上。然而，當系統遇到訓練數據中從未出現過的用户意圖時——這類意圖被稱為超出範圍（Out-of-Scope, OOS）意圖——傳統的檢測方法往往會遭遇性能瓶頸。具體來説，傳統的多類分類方法隨着已知意圖類別數量的增加，其檢測精度會顯著下降。這是因為分類器需要區分越來越多的類別，而對未知類別的拒識能力卻沒有得到專門優化。另一方面，基於大語言模型（LLM）的嵌入方法雖然能夠捕捉更豐富的語義信息，但這類模型通常擁有數億甚至數十億的參數，導致訓練成本高昂，部署難度極大，難以在資源受限的實際系統中應用。
為解決這些挑戰，來自研究機構的研究人員提出了一種新穎的多簇邊界學習方法。該方法採用輕量級但高效的MiniLM（all-MiniLM-L6-v2）模型，通過一種特殊的單類分類工作流來檢測OOS意圖。其核心思想是：首先，利用MiniLM模型對訓練集中的每個已知意圖類別生成多個嵌入表示，這些嵌入自然形成若干個緊密的簇；然後，學習每個簇的邊界；最後，對於新的輸入語句，系統判斷其嵌入是否落在任何一個已知簇的邊界內。如果落在邊界之外，則判定為OOS意圖並予以拒絕。這種基於簇邊界的學習方式，使得模型能夠靈活地刻畫每個意圖類別的語義範圍，從而更精準地識別未知意圖。
在實驗部分，研究者使用了三個業界公認的公開數據集：CLINC150、StackOverflow和Banking77。這些數據集涵蓋了多種領域的意圖識別任務，包含大量已知和未知的意圖樣本。實驗結果表明，所提出的方法在OOS意圖檢測性能上全面超越了現有的基線方法，達到了當前最優水平。此外，消融研究進一步揭示了MiniLM模型在該工作流中的優越性：相比其他嵌入模型，MiniLM能夠更好地適應單類分類的需求，其生成的嵌入在保持低維度的同時，具備了高度區分性，從而顯著提升了邊界學習的準確性。
值得一提的是，研究團隊已經將論文相關的源代碼作為補充材料公開，供學術界和工業界的研究者復現和進一步探索。這項工作不僅為OOS意圖檢測提供了一種高效且實用的解決方案，也為未來在人機交互系統中構建更魯棒的意圖理解模塊奠定了基礎。