跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

AERIC:用於隱式有害對話的預期性隱藏狀態監控

文章摘要

AERIC 是一種輕量級安全監控器,通過讀取解碼過程中的隱藏狀態來提前檢測隱式有害內容,無需額外前向傳播。它僅含 387 個可訓練參數,在多個基準測試上優於大型模型,且延遲增加僅 2.34%。

來源arXiv Computational Linguistics作者: Jihyung Park, Saleh Afroogh, Junfeng Jiao
AERIC:用於隱式有害對話的預期性隱藏狀態監控
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

當前語言模型面臨兩大安全挑戰:一是需要在有害內容生成前儘早檢測風險,二是危害可能以隱式形式出現而非明顯的 toxic 文本。現有的響應級防護能有效評判完整文本,流式防護則更接近 token 級時間,但兩者均未探討輕型監控器能否從生成器的內部軌跡中提前預測隱式有害偏移。為此,研究者提出了 AERIC(Anticipatory Hidden-State Monitoring for Implicit Harmful Dialogue),一種面向隱式有害對話的遷移式隱藏狀態方法。

AERIC 採用同次傳遞(same-pass)監控範式,安全監控器可以讀取常規解碼過程中產生的隱藏狀態,但不得調用額外的基模型前向傳播。該方法結合了短期危害預測(short-horizon hazard forecasting)、支持敏感抑制(support-sensitive suppression)和提示條件殘差評分(prompt-conditioned residual scoring),並基於同次傳遞指數移動平均決策規則進行判斷。默認的線性監控器僅包含 387 個可訓練的頭部參數,極其輕量。

實驗表明,AERIC 在多個平衡基準上顯著優於現有方法。與 Qwen3GuardStream-4B 相比,AERIC 在 DiaSafety 上的 AUROC 從 0.6830 提升至 0.7143,在 Harmful Advice 上從 0.8219 提升至 0.8582。對於提示級觸發基準,研究者通過源端安全預算規則校準閾值,在約束安全觸發率不超過 10% 的同時最大化觸發覆蓋率。在該規則下,HarmBench DirectRequest 上的 trigger@64 達到 0.6438(Qwen)和 0.4656(Gemma),SocialHarmBench 上達到 0.6849(Qwen)和 0.7363(Gemma),平均扣留 23.53 至 41.86 個回答 token。

效率方面,在包含 HarmBench DirectRequest 和 SocialHarmBench 的 63 個有害提示固定生成基準上(使用 Qwen3-8B),AERIC 僅使平均延遲增加 2.34%,而 Qwen3Guard-Stream-4B 則導致延遲增加 79.40%。這一結果表明,AERIC 在保持高檢測性能的同時,能夠以極低的計算開銷實現實時安全監控。

展開要點與分析

文章情報

工程師進階

要點

  • AERIC 通過分析模型內部隱藏狀態提前預測有害內容。
  • 結合短期危害預測、支持敏感抑制和提示條件殘差評分。
  • 在 DiaSafety 和 Harmful Advice 基準上 AUROC 分別提升至 0.7143 和 0.8582。
  • 延遲增加僅 2.34%,遠低於對比模型的 79.40%。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。