活性化介入によって言語モデルに目標とする回答を出力させることはできるが、モデルがその意図された条件を他の計算でも活用できるかどうかは別問題である。Tianda Sun らによる arXiv 論文「From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models」は、まさにこの問いを扱っている。研究対象は Qwen3.5-27B で、時間や権限が候補の適格性や選択可否を決めるツール利用タスクを用いている。
研究チームは 32 の新規「ワールド」を構築し、ケース固有の残差書き込みを 2 種類試した。その結果、馴染みのある目標選択の正答率は大きく向上した。一方の変種では 128 回中 35 回から 119 回へ、もう一方では 33 回から 114 回へと改善した。数字だけを見れば介入は成功しているように思える。
しかし重要な発見は、この改善が頑健ではないという点にある。馴染みのある事実や識別子を同じ選択タスク内で組み替えると、こうした利得は消失した。一方で、以前に報酬を与えられた識別子を選ぶ傾向はむしろ増加した。これはモデルが条件そのものを理解したのではなく、特定の目標に対する「選択の近道」を学習したことを示唆する。利得は出力形式を変えても維持されたが、候補が適格かどうか、あるいは選択されるべきかを独立に判断する課題ではほとんど改善が見られなかった。
さらに論文は、事前に指定された二次比較として、内部編集が情報源の事実の判断への影響を変えるかを検証した。初期層における情報源へのパッチは、その情報源が使われる 64 件の判断のうち 50 件を変化させたが、使われない 64 件では有害な変化は 1 件だけであった。この選択的効果は確認されたものの、正しい完全な行動を保証するものではない。
著者らはこれらを踏まえ、目標選択の制御、条件に敏感な判断、完全な行動の正しさという三つの層を区別すべきだと主張する。編集された内部状態が訓練時の回答を出したかどうかだけでなく、その状態がどう使われるかを評価することで、こうした差異が初めて明らかになる。論文は 21 ページ・図 5 点で、コードも公開されている。計算と言語（cs.CL）および人工知能（cs.AI）にまたがる研究で、v1 は 2026 年 10 月 5 日に投稿された。