大型語言模型(LLM)在部署時依賴於指令層級的安全假設:系統提示等更高優先順序的輸入應覆蓋來自使用者或工具的衝突低優先順序輸入。然而,前沿模型經常違反這一層級,導致潛在的安全風險。針對這一問題,來自COLM '26的一篇論文提出了V-Steer,一種無需訓練的推理時方法,透過編輯提示位置的快取值向量來恢復特權影響力。
V-Steer的核心機制是利用第一個下一個標記預測上的直接logit歸因,識別出低優先順序片段佔據主導的注意力頭。然後,透過就地乘法編輯快取的值張量,該方法能夠提升特權片段並抑制衝突的低優先順序片段。由於V-Steer僅作用於快取的值,它與融合注意力後端完全相容,並且只增加一次預填充開銷,解碼速度的影響幾乎可以忽略不計。
在從7B到70B的模型上進行的實驗中,這種歸因引導的干預在受控角色衝突基準上將主要約束準確率從低於18%提升至92%。在更廣泛的指令層級評估中,V-Steer顯著優於僅使用提示的基線方法,並在LLM的四個規模中的三個上匹配或超越了最先進的基於訓練的方法,同時保持瞭解碼速度的無明顯開銷。
該論文由Siqi Zeng等人撰寫,已在GitHub上開原始碼(https://github.com/cindy2000sh/v-steer),為社群提供了實用的工具來改善LLM的指令遵守能力。這一方法不僅提高了模型的安全性,還為未來無需額外訓練即可增強LLM可靠性的研究開闢了新途徑。