研究人員提出了一種基於幾何偏差的無監督預生成可靠性信號，用於在大型語言模型（LLM）生成回答之前預測查詢是否可回答。該工作由研究者Yucheng Du完成，已被TrustNLP 2026（ACL研討會）接收。論文共11頁，包含3張圖和3張表。
傳統的可靠性方法通常需要標記的失敗數據或訪問模型輸出，而幾何偏差方法通過測量查詢的隱藏狀態與一組已知可回答查詢的隱藏狀態質心的偏離程度來工作，無需任何監督信號。這種方法僅需一次前向傳播，即可在生成開始前給出可靠性指示。
實驗在三個指令調優模型（Llama 3.1-8B、Qwen 2.5-7B和Mistral-7B-Instruct）上進行，使用三種提示形式：數學、事實和代碼。結果顯示，幾何結構主要編碼任務形式而非具體的知識邊界。在數學提示中，不可回答輸入與可回答質心的偏差顯著，ROC-AUC達到0.78-0.84，優於簡單的拒絕基線（即模型是否輸出拒絕語句），並且與自洽性方法（需要多次採樣）的性能相當。該方法還能捕捉模型未明確拒絕但實際不可回答的案例。
然而，在事實提示中，未觀察到可靠的幾何信號，表明該效應並非普遍適用，而是依賴於任務形式。代碼提示則顯示出較大的效應量但方差較高，暗示可能存在超越數學形式的泛化。進一步的分析表明，代碼領域的信號不如數學領域穩定。
層分析揭示，該信號出現在模型的早期層（約前1/3層），並逐漸向輸出層衰減，表明可回答性相關的幾何結構在生成過程的早期階段就已建立。這為在生成過程中間層實施干預提供了可能。
這些發現表明，幾何偏差可作為輕量級的預生成可靠性信號，在具有正式可回答性約束的結構化領域（如數學推理）中表現可靠，但它在非結構化或開放性領域中的泛化能力有限。該工作為提升LLM的可靠性和透明性提供了一種無需額外訓練或標註的高效方法，同時明確了該方法適用的邊界條件。