不要崩潰你的特徵：為什麼CenterLoss損害OOD檢測而多尺度馬氏距離勝出

arXiv上最新論文《不要崩潰你的特徵：為什麼CenterLoss損害OOD檢測而多尺度馬氏距離勝出》由Rahul D Ray撰寫，提出了GOEN（Geometry-Optimised Epistemic Network）方法，旨在提升機器學習系統的分佈外（OOD）檢測能力。OOD檢測對於AI系統的安全部署至關重要，但現有方法往往只針對分類準確率優化特徵表示，忽視了認知不確定性的特殊需求。GOEN採用簡單而有效的流水線：結合多尺度特徵、L2歸一化、馬氏距離，並利用真實困難OOD樣本訓練校準頭。通過系統的消融實驗，研究者發現了一個反直覺的結果：CenterLoss——一種常用的特徵緊湊性正則化器——雖然提高了分類準確率，卻顯著降低了OOD檢測性能，使平均OOD AUROC從0.9483降至0.9366。最佳變體GOEN-NoCenterLoss在CIFAR-10基準測試上達到了平均OOD AUROC 0.9483，超過了深度集成（0.8827）、KNN（0.8967）和ODIN（0.8870）等所有基線，同時保持了有競爭力的分佈內準確率。這一發現挑戰了普遍假設：更好的分類幾何自動帶來更好的認知不確定性。研究者指出，過於緊密的特徵集羣壓縮了類間間隔，扭曲了有效OOD檢測所需的協方差結構。GOEN訓練高效，在單GPU上僅需20分鐘，為構建可靠識別自身侷限的AI系統提供了實用藍圖。GOEN的核心創新在於認識到OOD檢測需要保留特徵空間的適度分散性和類間間隔，而不是一味追求特徵的緊緻性。通過去除CenterLoss並採用多尺度馬氏距離，GOEN能夠在保留分類性能的同時大幅提升OOD魯棒性。這一成果對於自動駕駛、醫療診斷等安全關鍵領域的AI部署具有重要指導意義。