TokenScope：面向大型语言模型代码任务的词元级可解释性与可分析性工具
TokenScope 是一款面向解码器型 LLM 的交互式可解释性工具，能在代码生成过程中提供词元级度量、注意力模式和结构信息，支持词元替换、反事实分支和基于抽象语法树的代码感知聚合。
大型语言模型（LLM）在代码生成任务中表现出色，但其在词元级别的决策机制仍是一个难以捉摸的黑盒。现有工具虽然能提供模型内部状态或生成结果的某些视角，但往往缺少解码过程中的实时信号、细粒度的不确定性度量，以及探索替代生成路径的交互机制。这给研究人员和从业者理解模型行为带来了巨大挑战。
针对这一困境，来自加拿大的研究者 Amirreza Esmaeili 和 Fatemeh Fard 提出了 TokenScope。这是一款面向解码器型 LLM 的交互式可解释性分析工具，能够在代码生成过程中实时暴露词元级别的概率、不确定性等度量指标，同时展示注意力模式以及基于抽象语法树（AST）的结构信息。工具的核心功能包括：交互式词元替换——允许用户手动修改某个词元并观察模型反应的连锁变化；反事实分支——生成假设性的替代路径以对比不同选择的影响；以及代码感知聚合——将词元按照语法结构进行分组，使得分析更贴合代码的语义层次。
通过将解码过程中的信号与结构化程序分析相统一，TokenScope 为系统性地探究 LLM 在代码生成中的行为提供了全新手段。该工具不仅有助于调试模型输出、提升生成代码的可靠性，还有望为未来更透明、更可信的代码智能系统奠定基础。相关论文已于 2026 年 4 月 30 日提交至 arXiv，涵盖计算语言学（cs.CL）、人工智能（cs.AI）和软件工程（cs.SE）等多个领域。研究人员和开发者可以借此更深入地理解模型在代码生成时的内部运作，从而推动可解释人工智能在软件工程中的应用。