一篇新研究揭示了智能體 AI 系統中防護模型的嚴重脆弱性：即使使用完全良性的數據進行微調，這些模型也可能完全喪失安全對齊能力。這種行為並非通過對抗性操縱引發，而是源於標準的領域專業化過程。該論文已獲 AAAI 2026 夏季研討會系列接收，提交時間為 2026 年 4 月 8 日。
研究者聚焦於三種專門構建的安全分類器——LlamaGuard、WildGuard 和 Granite Guardian——這些模型通常作為防護層部署在智能體 AI 流水線中。他們發現，對模型進行良性數據微調會破壞其潛在的安全幾何結構，即原本用於區分有害和良性內容的結構化表徵邊界。通過提取每層的安全子空間並追蹤微調過程中邊界的演變，研究者發現 Granite Guardian 經歷了最嚴重的崩塌：其拒絕率從 85% 驟降至 0%，CKA（中心核對齊）降至零，且 100% 的輸出變得模糊。這種嚴重性超出了此前對通用大語言模型的發現，可以用專業化假説解釋：集中式安全表徵雖高效，但極其脆弱。
為了應對這一問題，研究者提出了 Fisher 加權安全子空間正則化（FW-SSR），這是一種訓練期間的懲罰方法，結合了基於 Fisher 信息矩陣的曲率感知方向權重和自適應 λ_t 參數。FW-SSR 成功恢復了 Granite Guardian 75% 的拒絕率（CKA 達到 0.983），並將 WildGuard 的攻擊成功率降至 3.6%——甚至低於未修改的基線模型。研究表明，結構化的表徵幾何指標（如 CKA 和 Fisher 分數）比絕對位移指標更能可靠預測安全行為，因此建議將基於幾何的監測作為智能體部署中防護模型評估的必要組成部分。