激活幹預可以讓語言模型產出目標答案,但模型能否在其它計算中真正利用這一預期條件,仍是一個開放問題。Tianda Sun 等作者在 arXiv 上發佈的論文《From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models》正是圍繞這一疑問展開,研究對象是 Qwen3.5-27B 在工具調用任務中的表現——在這些任務裏,時間或權限決定某個候選對象是否具備資格、以及是否應被選中。
研究團隊構建了 32 個全新的“世界”場景進行測試,並採用兩種針對具體案例的殘差寫入變體來干預模型內部激活。結果顯示,這兩種變體都能顯著提升模型在熟悉目標選擇上的正確率:第一種從 128 次中的 35 次正確提升到 119 次,第二種從 33 次提升到 114 次。單看這一數字,干預似乎非常成功。
然而論文的關鍵發現在於,這種提升並不穩固。當研究者把熟悉的事實與標識符在同一選擇任務內部重新組合時,上述增益便消失了;與此同時,對那些此前被獎勵過的標識符的選擇傾向反而上升。這説明模型學到的更像是針對特定目標的“選擇捷徑”,而不是對條件本身的真正理解。增益雖然在不同輸出格式下都能保持,但在獨立判斷任務中——即判斷某個候選是否有資格、或者是否應當被選中——幾乎沒有帶來改善。
論文還報告了一項預先設定的次級對比,用以檢驗內部編輯是否會改變某個來源事實對判斷的影響方式。結果顯示,早期層面對來源的補丁在來源事實被使用時改變了 64 個判斷中的 50 個;而在來源未被使用的 64 個案例中,只出現了一次不利改變。這表明干預確實能產生選擇性的影響,但這種影響並不能保證模型完成正確的完整動作。
作者據此提出,應當把三個層面區分開來:目標選擇控制、對條件敏感的判斷、以及完整動作的正確性。評估一個被編輯過的內部狀態應當如何使用,而不僅僅看它是否產出了被訓練的目標答案,才能真正暴露出這些差異。論文共 21 頁、含 5 幅圖,代碼已隨文公開,屬於計算與語言(cs.CL)以及人工智能(cs.AI)交叉方向,v1 版本於 2026 年 10 月 5 日提交。