大型語言模型（LLM）的安全性是人工智能領域的重要課題，然而，理解模型內部如何判斷提示是否安全一直缺乏可解釋性。最新研究Geometry-Lite通過分析逐層邊際幾何，為這一問題提供了新的見解。該論文由Woo Seob Sim等人完成，已於2026年5月18日提交至arXiv（編號2605.20241）。
傳統的提示級安全探測器利用隱藏狀態表示來區分安全和不安全提示，但強大的平均檢測性能並不能解釋這種分離的幾何結構。Geometry-Lite是一種緊湊的探測器，它將每一層最終提示令牌的表示映射到帶符號的邊際，使用了三種讀出器：質心、局部鄰域和監督線性邊界。然後，它通過邊界位置、逐層變化和粗略形狀來總結所得的邊際剖面。
在九個指令微調骨幹網絡（參數規模從1.2B到70B）和七個安全基準測試上，Geometry-Lite優於單層探測器，同時性能接近原始多層得分堆疊。分解實驗表明，安全證據主要通過持久的邊界位置幾何來表達：最終或極端邊際以及不安全側層佔用主導了整體檢測性能。相比之下，有限差分漂移和結構摘要對彙總AUROC貢獻很小，儘管漂移可以在偏移的低假陽性率閾值下提供小的召回導向修正。
在基準遷移場景下，優化線性邊界在訓練混合上表現尖鋭，而類條件均值幾何在預定義的困難保留子集上更可靠地保持分離。總的來説，提示級安全證據主要不是層間運動信號，而是持久的逐層邊際幾何，其有用成分和讀出級偏差在決策關鍵區域變得可見。
這一研究為LLM安全性的可解釋性提供了新的方法，有助於設計更可靠的安全機制，並幫助研究人員理解模型內部的安全決策過程。