基于MiniLM嵌入的多簇边界学习方法用于超出范围意图检测

意图检测在人机交互系统中扮演着至关重要的角色，它负责将用户的自然语言输入映射到系统能够理解的预定义意图上。然而，当系统遇到训练数据中从未出现过的用户意图时——这类意图被称为超出范围（Out-of-Scope, OOS）意图——传统的检测方法往往会遭遇性能瓶颈。具体来说，传统的多类分类方法随着已知意图类别数量的增加，其检测精度会显著下降。这是因为分类器需要区分越来越多的类别，而对未知类别的拒识能力却没有得到专门优化。另一方面，基于大语言模型（LLM）的嵌入方法虽然能够捕捉更丰富的语义信息，但这类模型通常拥有数亿甚至数十亿的参数，导致训练成本高昂，部署难度极大，难以在资源受限的实际系统中应用。

为解决这些挑战，来自研究机构的研究人员提出了一种新颖的多簇边界学习方法。该方法采用轻量级但高效的MiniLM（all-MiniLM-L6-v2）模型，通过一种特殊的单类分类工作流来检测OOS意图。其核心思想是：首先，利用MiniLM模型对训练集中的每个已知意图类别生成多个嵌入表示，这些嵌入自然形成若干个紧密的簇；然后，学习每个簇的边界；最后，对于新的输入语句，系统判断其嵌入是否落在任何一个已知簇的边界内。如果落在边界之外，则判定为OOS意图并予以拒绝。这种基于簇边界的学习方式，使得模型能够灵活地刻画每个意图类别的语义范围，从而更精准地识别未知意图。

在实验部分，研究者使用了三个业界公认的公开数据集：CLINC150、StackOverflow和Banking77。这些数据集涵盖了多种领域的意图识别任务，包含大量已知和未知的意图样本。实验结果表明，所提出的方法在OOS意图检测性能上全面超越了现有的基线方法，达到了当前最优水平。此外，消融研究进一步揭示了MiniLM模型在该工作流中的优越性：相比其他嵌入模型，MiniLM能够更好地适应单类分类的需求，其生成的嵌入在保持低维度的同时，具备了高度区分性，从而显著提升了边界学习的准确性。

值得一提的是，研究团队已经将论文相关的源代码作为补充材料公开，供学术界和工业界的研究者复现和进一步探索。这项工作不仅为OOS意图检测提供了一种高效且实用的解决方案，也为未来在人机交互系统中构建更鲁棒的意图理解模块奠定了基础。