跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

從目標選擇到條件複用:審計工具使用模型中的殘差干預

文章摘要

一項針對Qwen3.5-27B工具使用任務的研究透過32個新場景發現,針對特定案例的殘差寫入干預能將熟悉的目標選擇正確率從約27%提升到約90%,但這些增益在同任務中重組熟悉事實和識別符號時消失,且對候選資格或是否應選擇的獨立判斷改善甚微。

來源arXiv Computational Linguistics作者: Tianda Sun, Dimitar Kazakov
從目標選擇到條件複用:審計工具使用模型中的殘差干預
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

啟用幹預可以讓語言模型產出目標答案,但模型能否在其它計算中真正利用這一預期條件,仍是一個開放問題。Tianda Sun 等作者在 arXiv 上釋出的論文《From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models》正是圍繞這一疑問展開,研究物件是 Qwen3.5-27B 在工具呼叫任務中的表現——在這些任務裡,時間或許可權決定某個候選物件是否具備資格、以及是否應被選中。

研究團隊構建了 32 個全新的“世界”場景進行測試,並採用兩種針對具體案例的殘差寫入變體來干預模型內部啟用。結果顯示,這兩種變體都能顯著提升模型在熟悉目標選擇上的正確率:第一種從 128 次中的 35 次正確提升到 119 次,第二種從 33 次提升到 114 次。單看這一數字,干預似乎非常成功。

然而論文的關鍵發現在於,這種提升並不穩固。當研究者把熟悉的事實與識別符號在同一選擇任務內部重新組合時,上述增益便消失了;與此同時,對那些此前被獎勵過的識別符號的選擇傾向反而上升。這說明模型學到的更像是針對特定目標的“選擇捷徑”,而不是對條件本身的真正理解。增益雖然在不同輸出格式下都能保持,但在獨立判斷任務中——即判斷某個候選是否有資格、或者是否應當被選中——幾乎沒有帶來改善。

論文還報告了一項預先設定的次級對比,用以檢驗內部編輯是否會改變某個來源事實對判斷的影響方式。結果顯示,早期層面對來源的補丁在來源事實被使用時改變了 64 個判斷中的 50 個;而在來源未被使用的 64 個案例中,只出現了一次不利改變。這表明干預確實能產生選擇性的影響,但這種影響並不能保證模型完成正確的完整動作。

作者據此提出,應當把三個層面區分開來:目標選擇控制、對條件敏感的判斷、以及完整動作的正確性。評估一個被編輯過的內部狀態應當如何使用,而不僅僅看它是否產出了被訓練的目標答案,才能真正暴露出這些差異。論文共 21 頁、含 5 幅圖,程式碼已隨文公開,屬於計算與語言(cs.CL)以及人工智慧(cs.AI)交叉方向,v1 版本於 2026 年 10 月 5 日提交。

展開要點與分析

文章情報

工程師進階

要點

  • 啟用幹預能顯著提升目標選擇正確率,但無法保證模型在其他計算中正確複用條件。
  • 殘差寫入帶來的增益在熟悉事實與識別符號重組時消失,而先前獎勵識別符號的選擇反而增加。
  • 早期層源補丁能選擇性影響判斷(64例中使用源時改變50例),但不能確保完整動作正確。
  • 研究區分了目標選擇控制、條件敏感判斷和完整動作正確性三個層面。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。