arXiv に投稿された新しいプレプリント論文 Geometry-Lite は、大規模言語モデルのプロンプトレベルの安全プローブが、安全なプロンプトと不安全なプロンプトを分離できる一方で、その分離を支える幾何構造が十分に説明されていないという問題に取り組んでいる。平均的な検出性能が高くても、安全証拠が層をまたいでどのように形成されるのか、どの幾何的特徴が偽陽性の低い判断を支えるのか、ベンチマークが変化したときにどのような幾何的偏りが残るのかは明らかではなかった。
著者らはこれを経験的分解の問題として捉え、コンパクトなプロンプトレベルのプローブである Geometry-Lite を提案する。この手法は、各層の最終プロンプトトークン表現を、重心読み出し、局所近傍読み出し、教師あり線形境界読み出しの 3 種類で符号付きマージンに変換する。その後、得られたマージンプロファイルを、境界位置、層間の変化、粗い形状という観点から要約する。これにより、多層の隠れ状態に分散していた安全信号を、意味のある成分に分解して分析できるようになる。
実験は、パラメータ数 12 億から 700 億までの 9 つの命令微調整済みバックボーンと、7 つの安全性ベンチマークで行われた。結果として、Geometry-Lite は単層プローブよりも性能が向上しつつ、生の多層スコアを積み上げる手法に近い性能を維持した。著者らはこれを、単なる高性能分類器ではなく、多層の安全信号を分析するための有用な計測器として位置づけている。
分解分析からはいくつかの重要な知見が得られている。第一に、安全証拠は主として持続的な境界位置の幾何によって表現される。最終マージンや極値マージン、そして不安全側の層占有が、集約的な検出性能を支配している。これに対し、有限差分ドリフトや構造的要約は、集約 AUROC にはほとんど寄与しない。ただし、低偽陽性率の閾値がシフトする状況では、ドリフトが再現率志向の小さな補正をもたらす可能性がある。
第二に、ベンチマークシフト下での安定性に関する観察である。最適化された線形境界は訓練混合データ上では鋭い分離を示すが、分布変化に対しては脆弱になり得る。一方、クラス条件付き平均幾何は、事前に定義された困難なホールドアウト部分集合において、より信頼性高く分離を維持した。これは、読み出し手法ごとに異なる幾何的偏りがあり、それが意思決定に敏感な領域で顕在化することを示している。
全体として本論文は、プロンプトレベルの安全証拠の主な形が層間の運動信号ではなく、持続的な層ごとのマージン幾何であると結論づけている。解釈可能な分解を通じて、有用な幾何成分と読み出しレベルの偏りを、意思決定が重要な局面で可視化する点に、この研究の意義がある。