TruEye：画像内のAI生成人物の細粒度検出

AI生成画像がインターネット上で急増しており、一部は娯楽に使用される一方で、ソーシャルメディアユーザーに対する詐欺やソーシャルエンジニアリング攻撃に悪用されています。既存の検出器は、トレーニング中に見た生成器に過適合したり、検出を不透明な二値分類として扱ったり、出力を説明するために高価な大規模言語モデル（LLM）に依存するなどの限界があります。これらの問題を解決するために、研究者らはTruEyeを提案しました。これは、AI生成または改変された人間やシーンを細粒度で検出・位置特定する新しいモデルです。

TruEyeの核心的な革新は、5つの合成コンテンツカテゴリを区別できる点にあり、中でも最も困難なケースである、実際の人間が実際には存在しなかったリアルなシーンに合成された場合も含まれます。従来の単一の真実性ラベルを割り当てるだけの検出器とは異なり、TruEyeはマスク条件付きデュアルストリームトランスフォーマーを使用して、人間とシーンのトークンを分離しつつ、パッチレベルの空間対応を保持します。各ストリーム内の特殊化された推論と領域ゲート付きクロスアテンションにより、被写体と背景の間の意味的一貫性が強化され、トークンレベルの監督とグローバルな構成分類により、LLMを呼び出すことなく、ロバストで解釈可能な予測が得られます。

ストリーム内の注意を意味的に一貫したトークンに制限することで、TruEyeはLLMベースの競合他社よりも100倍以上高速に動作します。6つのデータセットと新しくキュレーションされたFineSynデータセットでの実験では、TruEyeが高い精度、高速な推論、未見のAI生成または改変画像に対する強い一般化能力で、最先端の検出器を凌駕することが示されています。

この研究成果は、AI生成コンテンツがもたらすセキュリティ上の課題に対処するための強力なツールを提供し、ソーシャルメディアやデジタルフォレンジックなどの分野で重要な役割を果たすことが期待されます。