啟用幹預可以讓語言模型產出目標答案,但模型能否在其它計算中真正利用這一預期條件,仍是一個開放問題。Tianda Sun 等作者在 arXiv 上釋出的論文《From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models》正是圍繞這一疑問展開,研究物件是 Qwen3.5-27B 在工具呼叫任務中的表現——在這些任務裡,時間或許可權決定某個候選物件是否具備資格、以及是否應被選中。
研究團隊構建了 32 個全新的“世界”場景進行測試,並採用兩種針對具體案例的殘差寫入變體來干預模型內部啟用。結果顯示,這兩種變體都能顯著提升模型在熟悉目標選擇上的正確率:第一種從 128 次中的 35 次正確提升到 119 次,第二種從 33 次提升到 114 次。單看這一數字,干預似乎非常成功。
然而論文的關鍵發現在於,這種提升並不穩固。當研究者把熟悉的事實與識別符號在同一選擇任務內部重新組合時,上述增益便消失了;與此同時,對那些此前被獎勵過的識別符號的選擇傾向反而上升。這說明模型學到的更像是針對特定目標的“選擇捷徑”,而不是對條件本身的真正理解。增益雖然在不同輸出格式下都能保持,但在獨立判斷任務中——即判斷某個候選是否有資格、或者是否應當被選中——幾乎沒有帶來改善。
論文還報告了一項預先設定的次級對比,用以檢驗內部編輯是否會改變某個來源事實對判斷的影響方式。結果顯示,早期層面對來源的補丁在來源事實被使用時改變了 64 個判斷中的 50 個;而在來源未被使用的 64 個案例中,只出現了一次不利改變。這表明干預確實能產生選擇性的影響,但這種影響並不能保證模型完成正確的完整動作。
作者據此提出,應當把三個層面區分開來:目標選擇控制、對條件敏感的判斷、以及完整動作的正確性。評估一個被編輯過的內部狀態應當如何使用,而不僅僅看它是否產出了被訓練的目標答案,才能真正暴露出這些差異。論文共 21 頁、含 5 幅圖,程式碼已隨文公開,屬於計算與語言(cs.CL)以及人工智慧(cs.AI)交叉方向,v1 版本於 2026 年 10 月 5 日提交。