一项最新的研究论文《Instructions shape Production of Language, not Processing》近日在arXiv上发表，该研究由Andreas Waldis等人完成，提出了一个引人注目的观点：在语言模型中，指令主要影响的是语言的“生成”（production）阶段，而非“处理”（processing）阶段。这一发现挑战了我们对语言模型内部工作机制的传统理解。
研究团队借鉴认知科学中语言处理与生成分离的理论框架，设计了一系列精巧的实验。他们在五种二元判断任务上，逐层探测了模型内部的任务特定信息。具体来说，他们测量了指令令牌如何影响样本令牌（待评估的输入）和输出令牌（模型生成的回答）中的信息分布。结果发现，无论提示如何变化，样本令牌中的任务相关信息始终保持相对稳定，且与模型的实际行为表现仅有微弱的相关性。相反，输出令牌中的同一信息则随指令变化而显著波动，并且与行为表现高度相关。这表明，指令对模型的影响主要集中在生成阶段。
为了进一步验证因果关系，研究者采用了基于注意力的干预方法。当完全阻断指令流向所有后续令牌（包括样本和输出令牌）时，输出中的任务相关信息显著下降，同时模型行为也受到影响。然而，如果只阻断指令流向样本令牌，而允许其继续影响输出令牌，则行为变化微乎其微。这直接证明，指令是通过影响输出生成过程来驱动模型行为的。
值得注意的是，这种不对称性在不同模型家族和任务中普遍存在，并且随着模型规模的增加和指令调优的进行而变得更加显著。模型规模扩大和指令调优对生成阶段的影响远大于处理阶段，这进一步强化了指令主要作用于生成环节的结论。
该研究的核心启示是：要真正理解语言模型的能力，我们需要同时考察模型的内部状态和行为表现，同时必须按令牌位置分解内部视角，区分输入处理和输出生成。这项成果为未来语言模型的评估和设计提供了新的理论依据，提示研究者不应仅关注模型对输入的处理，更应重视指令如何塑造输出。这一发现对模型选型、推理成本优化、产品能力提升以及评测基准的建立都具有重要参考价值。