这篇发表于2026年5月20日的论文《约束税：衡量小型语言模型结构化输出中的有效性与正确性权衡》，作者为Jaideep Ray，聚焦于一个在实际部署中日益突出的矛盾：生产环境中的大语言模型系统越来越依赖机器可读的输出格式，例如JSON对象、带类型的追踪记录、正则约束字段以及工具调用schema，但对于参数量在30亿以下的设备端和低成本小型语言模型（SLM）而言，严格遵守这些格式约束可能会损害回答本身的正确性。
论文指出了一个被工程界广泛默认的假设：硬性输出约束能够提升可靠性，同时不会改变模型底层的答案。作者通过实验表明，这一假设对小型模型并不安全。为量化这一现象，论文提出了“约束税”（constraint tax）这一测量协议，其核心思想是在固定模型、固定任务分布和固定问题实例的前提下，单独隔离出结构化输出约束所导致的答案准确率和可执行准确率损失。
实验规模方面，研究者在商品级GPU上使用Qwen2.5-0.5B、Qwen2.5-1.5B和SmolLM2-1.7B三个小型模型，共进行了15,000次生成。结果显示，采用仅要求答案的硬性schema解码后，schema有效性从61.5%提升到100.0%，但答案准确率却从19.7%下降到11.0%，而“schema有效但答案错误”的输出比例从49.5%猛增至88.9%。换言之，格式上的完美掩盖了语义上的失败。
论文进一步给出一个最贴近工业场景的类比：一个确定性的日历工具调用任务。在该任务中，Qwen2.5-1.5B在仅使用提示词要求JSON时达到了91.5%的可执行准确率，而在相同工具调用schema的硬性约束下，可执行准确率骤降至48.0%，尽管两种模式的schema有效率都达到了100.0%。作者强调，这些错误属于语义层面的错误，而非结构层面的错误——模型确实生成了合法格式，却给出了错误的或无法执行的答案。
论文还探讨了“30亿参数边界”的问题，指出即使在这一规模附近，直接施加schema约束仍然需要付出代价。同时，作者提出了一种具有建设性的设计模式：延迟打包，即“自由推理，延后约束”（reason free, constrain late）。这一模式通过先让模型自由推理、再在输出阶段施加结构化约束，从而缓解约束税带来的负面影响。
在实践层面，论文的结论非常直接：生产系统应当分别报告schema有效性、答案准确率、可执行准确率以及错误但schema有效的比率，而不能仅以schema有效率作为质量指标。该论文于2026年5月20日07:11:32 UTC提交，属于机器学习（cs.LG）与软件工程（cs.SE）交叉领域，其DOI通过DataCite分配，全文可通过PDF、实验性HTML以及TeX源码形式获取。