AEyeDE：一种基于注意力的AI生成文本检测归因框架

随着大型语言模型（如GPT、LLaMA等）不断进化，它们生成的文本已几乎难以与人类写作区分。这给内容真实性验证带来了严峻挑战，因为传统的检测方法（如基于困惑度或统计特征的分类器）容易被高流畅度的AI文本欺骗。针对这一问题，来自多所机构的研究人员提出了AEyeDE框架，将模型注意力的归因分析作为一种新型检测信号。

AEyeDE的核心思想是利用一个“代理”Transformer模型（具有白盒访问权限）来提取文本的注意力归因矩阵。这些矩阵不仅反映了模型在生成每个词时关注的上下文，还隐含了人类与AI作者在注意力模式上的差异。研究者随后训练了一个轻量级卷积神经网络（CNN），从这些归因矩阵中学习判别性特征。由于注意力归因矩阵是模型内部的中间产物，它们提供了一种比单纯文本特征更丰富、更可解释的表示。

在实验部分，研究者评估了AEyeDE在多种生成场景下的表现。在编码器-解码器翻译设置中（如机器翻译任务），AEyeDE始终优于仅使用文本特征的基线模型。在更通用的解码器-only生成设置（如GPT系列模型）中，AEyeDE在针对特定生成器的检测任务上表现突出，并在标准基准（如RoBERTa基线）上具有竞争力。此外，该框架对跨数据集迁移和拼写扰动（如同音替换）具有良好的鲁棒性，这在实际应用中具有重要意义。

进一步的分析揭示了注意力归因图的一个有趣特性：它们包含重复的局部结构（例如特定的注意力模式），这些结构在人类和AI生成文本中的相对频率存在系统性差异。这种差异在不同数据集和代理模型之间保持一致，表明注意力归因不仅是一种有效的检测信号，还提供了一种解释检测结果的方法。

总之，AEyeDE展示了基于注意力的归因分析在AI文本检测中的潜力。它不仅提高了检测准确性，还增强了结果的可解释性。研究者表示将公开代码以促进后续研究。这一工作为对抗日益增长的AI生成内容提供了新的技术途径。该框架通过注意力矩阵的细粒度分析，克服了传统方法对表层统计特征的依赖，有望在内容审核、学术诚信、虚假信息治理等领域发挥重要作用。