随着AI生成图像在互联网上迅速扩散,这类内容已不再只是娱乐素材。研究者指出,其中一部分正被用于欺诈和对社交媒体用户的社会工程攻击,因此如何识别并解释图像中的合成痕迹成为一项现实安全需求。现有检测器往往存在三类局限:它们容易过拟合于训练阶段见过的生成器;把检测简化为不透明的二分类判断;或者依赖成本高昂的大语言模型来解释输出结果。
针对这些问题,Jay Barot 与 Dan Lin 在论文《TruEye: Fine-Grained Detection of AI-Generated Human Subjects in Images》中提出了 TruEye,一个面向AI篡改或AI生成人物与场景的细粒度检测与定位模型。与传统检测器只给出单一真实性标签不同,TruEye 首次尝试区分合成内容的五种组合类别。其中最具挑战性的一类是:真实人物被合成进一个其从未亲身到过的真实场景之中。这类图像既包含真实素材,又经过精心拼接,仅凭整体真实性判断很难识别。
TruEye 的核心是一个以掩码为条件的双流 Transformer。该结构将人物 token 与场景 token 分离处理,同时保留 patch 级别的空间对应关系,从而让模型既能分别推理人物和背景,又不会丢失二者在图像中的位置关联。在每个流内部,模型执行专门的推理;在流之间,则通过区域门控交叉注意力机制约束主体与背景之间的语义一致性。这样,模型不仅判断图像是否被合成,还能定位到具体区域并给出可解释的预测。
值得注意的是,TruEye 在实现上述能力时并不调用大语言模型。它依靠 token 级监督和全局组合分类来完成判断。由于流内注意力被限制在语义一致的 token 上,模型的运行速度比基于 LLM 的竞争方案快 100 倍以上,这对于需要大规模筛查网络图像的检测场景尤为重要。
作者在 6 个数据集以及新构建的 FineSyn 数据集上进行了实验。结果显示,TruEye 在准确率上超过现有最先进检测器,推理速度更快,并且对未见过的AI生成或篡改图像表现出更强的泛化能力。论文共 18 页、含 3 幅图,归类于计算机视觉与模式识别方向,于 2026 年 6 月 25 日提交至 arXiv。