近年来，视觉文本压缩（Visual Text Compression, VTC）作为一种高效处理长上下文的新思路受到广泛关注。VTC通过将文本渲染为图像，再利用视觉语言模型进行重新编码，通常能产生比传统子词分词少3到20倍的解码器令牌，从而大幅降低计算开销。然而，令牌数量的减少并不能可靠地转化为下游任务性能的提升：在某些任务上，VTC路径可以与纯文本路径匹敌甚至超越，但在其他任务上性能却显著下降。更令人困扰的是，压缩比本身无法预测哪种情况会发生。这种不确定性严重阻碍了VTC在实际系统中的部署。
针对这一难题，来自Lv Tang等人的研究团队提出了一种基于测度传输（measure transport）的理论框架，将VTC中的信息损失问题进行形式化。在数学上，他们将文本令牌和视觉令牌视为经验概率测度，并指出视觉Transformer（ViT）的块编码器实际上诱导了一个前推映射（push-forward map）。该映射的传输成本可以分解为两部分：块内聚合导致的精度成本（precision cost）和块间碎片化导致的覆盖成本（coverage cost）。这两项成本都可以通过不需要下游标签的探针进行估计。
基于这一分解，论文推导出了两个实用的操作机制。第一，一种无需下游标签的路由准则（routing criterion），能够针对每个输入或基准测试实例判断是采用视觉路径还是纯文本路径。第二，一种基于传输成本的自适应注视机制（adaptive foveation），能够对高成本区域进行更高分辨率的重新编码，从而减少关键信息的损失。
在Qwen3-4B模型上，研究团队在24个NLP数据集上进行了全面评估。实验结果表明，他们所提出的无标签路由规则在70.8%（17/24）的数据集上匹配了每个数据集的oracle最优决策。与纯文本语言模型相比，该方法使平均任务得分提升了3.3%，同时平均令牌数量减少了10.3%。这一工作不仅为理解VTC中的信息损失提供了坚实的理论基础，也为高效部署长上下文大语言模型提供了实用的工程工具。未来，这一框架有望进一步扩展到多模态理解和图像压缩等领域。