多教师同策略蒸馏中的行为杠杆不平衡

在人工智能领域，智能语言模型需要学会何时调用工具、何时处理工具响应以及何时直接回答。这使得多教师同策略蒸馏成为一种自然的训练策略：一个教师专门负责工具调用，另一个教师负责直接回答，学生模型则在其自身生成分布上向两者学习。然而，最新研究显示，这种策略可能引发一种从聚合损失中无法察觉的行为偏移。

在双教师工具使用场景中，标准的广义知识蒸馏虽然提高了工具调用召回率，但也导致模型过度调用——即对于那些本应直接回答的样本，模型却调用了工具。研究人员发现，聚合解释并不充分：工具调用样本并未获得更多令牌曝光，且全序列逐令牌发散对工具调用教师来说也不更大。

团队转而分析行为杠杆不平衡：在模式入口和结构位置（如特殊标记和函数名）上的局部令牌级信号，可能对全局生成模式产生不成比例的影响。基于此，他们提出了Soft Clamp方法，这是一种逐令牌发散校准技术，能够动态压缩极端令牌级杰森-香农散度，同时保留非零梯度。

在APIGen-MT基准测试上，Soft Clamp将过度调用率从13.7%降低到9.0%，同时保持了与原始方法相当的决策准确性。在BFCL多轮诊断中，它相比其他广义知识蒸馏变体，还减少了工具调用循环和重复调用次数。

这些结果表明，多教师同策略蒸馏不仅应关注教师信号的整体大小，更需监控其作用位置。Soft Clamp提供了一种有效的校准手段，有助于构建更可靠的智能语言代理系统。该研究由Jiabin Shen等人完成，论文于2026年7月8日提交至arXiv，包含17页正文及附录、6张图表。