AEyeDE：一種基於注意力的AI生成文本檢測歸因框架

隨着大型語言模型（如GPT、LLaMA等）不斷進化，它們生成的文本已幾乎難以與人類寫作區分。這給內容真實性驗證帶來了嚴峻挑戰，因為傳統的檢測方法（如基於困惑度或統計特徵的分類器）容易被高流暢度的AI文本欺騙。針對這一問題，來自多所機構的研究人員提出了AEyeDE框架，將模型注意力的歸因分析作為一種新型檢測信號。

AEyeDE的核心思想是利用一個“代理”Transformer模型（具有白盒訪問權限）來提取文本的注意力歸因矩陣。這些矩陣不僅反映了模型在生成每個詞時關注的上下文，還隱含了人類與AI作者在注意力模式上的差異。研究者隨後訓練了一個輕量級卷積神經網絡（CNN），從這些歸因矩陣中學習判別性特徵。由於注意力歸因矩陣是模型內部的中間產物，它們提供了一種比單純文本特徵更豐富、更可解釋的表示。

在實驗部分，研究者評估了AEyeDE在多種生成場景下的表現。在編碼器-解碼器翻譯設置中（如機器翻譯任務），AEyeDE始終優於僅使用文本特徵的基線模型。在更通用的解碼器-only生成設置（如GPT系列模型）中，AEyeDE在針對特定生成器的檢測任務上表現突出，並在標準基準（如RoBERTa基線）上具有競爭力。此外，該框架對跨數據集遷移和拼寫擾動（如同音替換）具有良好的魯棒性，這在實際應用中具有重要意義。

進一步的分析揭示了注意力歸因圖的一個有趣特性：它們包含重複的局部結構（例如特定的注意力模式），這些結構在人類和AI生成文本中的相對頻率存在系統性差異。這種差異在不同數據集和代理模型之間保持一致，表明注意力歸因不僅是一種有效的檢測信號，還提供了一種解釋檢測結果的方法。

總之，AEyeDE展示了基於注意力的歸因分析在AI文本檢測中的潛力。它不僅提高了檢測準確性，還增強了結果的可解釋性。研究者表示將公開代碼以促進後續研究。這一工作為對抗日益增長的AI生成內容提供了新的技術途徑。該框架通過注意力矩陣的細粒度分析，克服了傳統方法對錶層統計特徵的依賴，有望在內容審核、學術誠信、虛假信息治理等領域發揮重要作用。