为什么少步文本潜在变量会失败而图像潜在变量有效？在尖锐分类读出中的非承诺性

近年来，少步生成模型在图像生成领域取得了显著成功，但同样的方法应用于文本生成时却遭遇失败。一篇由Zhongyao Wang提交的新论文（arXiv:2606.30705）揭示了这一现象的根本原因：几何限制而非训练或规模问题。

论文指出，确定性少步生成在连续图像潜在变量上表现良好，但在连续文本潜在变量上生成的文本却杂乱无章。关键在于，平滑且受正则性限制的确定性映射无法在尖锐的分类读出前解决离散分支选择问题。也就是说，失败是由解码器的尖锐度决定的，而非传输精度。

为了量化这一现象，作者提出了两个诊断指标：读出尖锐度（DABI）和分类承诺度（CCI）。实验测量显示，四个独立构建的连续文本解码器的DABI值在5×10²到10⁵以上，而图像解码器的DABI值接近1。这意味着文本解码器对边界对齐的扰动高度敏感，而图像解码器则不然。

论文还探讨了两种可以绕过这种连续极限的机制：一是分类承诺，即使用自回归解码器即使读出更尖锐也能成功；二是随机再注入，例如在相同模型上，确定性ODE在K=4时困惑度（PPL）为294，而SDE仅为50，显示出随机性的优势。

在理论层面，论文建立了匹配的尖锐传输定律，包括维度相图：分离M个模式所需的确定性刚度随潜在维度的对数平方根增长，而在固定维度下则随M的1/n次方增长。分层结构（深度B）可使每步峰值降低√B倍。这些结果共同揭示了一个精度-深度-刚度权衡：在确定性连续类别内成本不可降低，而两种逃逸机制则超出了这一类别。

该论文为理解少步生成模型在文本领域的局限性提供了深刻见解，并为未来设计更有效的文本生成方法指明了方向。此外，论文还讨论了实际应用中的影响，例如在文本生成任务中，若采用连续潜在变量，则必须引入随机性或自回归解码器才能保证生成质量。这一发现对于当前流行的扩散模型和流匹配模型具有重要指导意义。