大規模言語モデル（LLM）がコードを生成する際に、トークン単位でどのような意思決定を行っているかを理解することは、研究者にとっても実務者にとっても大きな課題であり続けている。既存のツールはモデル内部や生成結果に関する知見を提供するものの、デコード時の信号、細粒度の不確実性指標、代替生成経路を対話的に探索する仕組みを欠いていることが多い。この空白に取り組むため、Amirreza EsmaeiliとFatemeh Fardは、デコーダベースのLLM向けの対話型解釈可能性・分析ツールであるTokenScopeを提案した。
TokenScopeの中心的な目的は、コード生成過程におけるモデルの意思決定の「ブラックボックス」を開くことにある。このツールは、生成中のトークン単位の指標、注意パターン、構造情報を表示し、モデルが各生成ステップで何に注目しているか、候補トークンに対する確信度がどのように分布しているか、そしてそれらの信号がコードの構文構造とどう結びついているかを観察できるようにする。最終出力や静的な内部表現だけに焦点を当てるツールとは異なり、TokenScopeはデコード時の動的な信号を重視しており、これはコード生成における不確実性の理解にとって特に重要である。
対話機能の面では、TokenScopeはいくつかの特徴的な能力を備えている。第一に、対話的なトークン置換により、ユーザーは生成途中で特定のトークンを変更し、その後のモデルの挙動の変化を観察できる。第二に、反事実分岐により、「その時点で別のトークンを選んでいたら生成経路はどうなっていたか」を探索し、モデルの意思決定境界を比較分析できる。さらに、抽象構文木（AST）に基づくコード認識集約をサポートし、トークン単位の情報をプログラム構造のレベルにマッピングすることで、構文単位の観点からモデルの挙動を理解することを助ける。
本研究の意義は、デコード時の信号と構造化されたプログラム分析を統合する点にある。コード生成は自然言語生成とは異なり、出力が構文上・意味上の制約を満たす必要があるため、トークン確率だけを見てもモデルの挙動を十分に説明できない。TokenScopeはAST集約を通じて、細粒度のトークン決定とコード構造を結びつけ、LLMのコード生成における挙動を体系的に研究するための実用的な分析枠組みを提供する。
本論文は2026年4月30日に投稿され、arXiv:2607.01235v1として公開されている。分野はComputation and Language（cs.CL）で、Artificial Intelligence（cs.AI）とSoftware Engineering（cs.SE）にも関連する。PDFと実験的なHTML版が提供されており、全文は約3.4MBである。TokenScopeは新しいコード生成モデルではなく分析ツールとして位置づけられており、その価値は既存のLLMのコードタスクにおける性能を診断・監査・理解することを支援する点にある。モデルの信頼性評価、生成エラーのデバッグ、モデル内部機構の研究を行うチームにとって、この種のツールは分析の敷居を下げ、今後のモデル改善の根拠を提供するものとなる。