大規模言語モデル（LLM）の展開において、命令階層は中核的な安全前提です。システムプロンプトなどの高優先度入力は、ユーザーやツールからの競合する低優先度入力を上書きすべきですが、最先端のLLMはこの階層に違反することがよくあります。この問題に対処するため、COLM '26で発表された論文では、V-Steerを提案しています。これは学習を必要としない推論時手法で、プロンプト位置のキャッシュされた値ベクトルを編集することで特権的な影響力を回復します。
V-Steerは、最初の次のトークン予測における直接ロジット帰属を用いて、低優先度スパンが特権スパンを支配するヘッドを特定します。そして、キャッシュされたVテンソルへのインプレース乗算編集を通じて、特権スパンを強化し競合する低優先度スパンを抑制します。この手法はキャッシュされた値にのみ作用するため、融合アテンションバックエンドと互換性があり、一度のプリフィルオーバーヘッドしか追加しません。復号速度への影響は無視できるほど小さいです。
7Bから70Bのモデルにおいて、この帰属誘導介入により、制御された役割競合ベンチマークでの主要制約精度が18%未満から92%に向上しました。より広範な命令階層評価では、プロンプトのみのベースラインを大幅に上回り、LLMの4つのスケールのうち3つで最新の学習ベース手法に匹敵またはそれを上回りました。
この研究はSiqi Zengらによって行われ、コードはGitHub（https://github.com/cindy2000sh/v-steer）で公開されています。V-Steerは、追加の訓練を必要とせずにLLMの安全性と信頼性を向上させる実用的なツールを提供し、今後の研究に貴重な基盤を提供します。