當前語言模型面臨兩大安全挑戰:一是需要在有害內容生成前儘早檢測風險,二是危害可能以隱式形式出現而非明顯的 toxic 文本。現有的響應級防護能有效評判完整文本,流式防護則更接近 token 級時間,但兩者均未探討輕型監控器能否從生成器的內部軌跡中提前預測隱式有害偏移。為此,研究者提出了 AERIC(Anticipatory Hidden-State Monitoring for Implicit Harmful Dialogue),一種面向隱式有害對話的遷移式隱藏狀態方法。
AERIC 採用同次傳遞(same-pass)監控範式,安全監控器可以讀取常規解碼過程中產生的隱藏狀態,但不得調用額外的基模型前向傳播。該方法結合了短期危害預測(short-horizon hazard forecasting)、支持敏感抑制(support-sensitive suppression)和提示條件殘差評分(prompt-conditioned residual scoring),並基於同次傳遞指數移動平均決策規則進行判斷。默認的線性監控器僅包含 387 個可訓練的頭部參數,極其輕量。
實驗表明,AERIC 在多個平衡基準上顯著優於現有方法。與 Qwen3GuardStream-4B 相比,AERIC 在 DiaSafety 上的 AUROC 從 0.6830 提升至 0.7143,在 Harmful Advice 上從 0.8219 提升至 0.8582。對於提示級觸發基準,研究者通過源端安全預算規則校準閾值,在約束安全觸發率不超過 10% 的同時最大化觸發覆蓋率。在該規則下,HarmBench DirectRequest 上的 trigger@64 達到 0.6438(Qwen)和 0.4656(Gemma),SocialHarmBench 上達到 0.6849(Qwen)和 0.7363(Gemma),平均扣留 23.53 至 41.86 個回答 token。
效率方面,在包含 HarmBench DirectRequest 和 SocialHarmBench 的 63 個有害提示固定生成基準上(使用 Qwen3-8B),AERIC 僅使平均延遲增加 2.34%,而 Qwen3Guard-Stream-4B 則導致延遲增加 79.40%。這一結果表明,AERIC 在保持高檢測性能的同時,能夠以極低的計算開銷實現實時安全監控。