AEyeDE：注意機構に基づくAI生成テキスト検出のためのアトリビューションフレームワーク

大規模言語モデル（GPT、LLaMAなど）の進化により、生成されるテキストは人間の書いたものと見分けがつかなくなってきています。これはコンテンツの真偽確認に重大な課題をもたらし、従来のパープレキシティや統計的特徴に基づく検出器は、流暢なAIテキストに簡単に騙されてしまいます。この問題に対処するため、複数の研究機関の研究者らは、モデルの注意機構を利用した新しい検出フレームワークAEyeDEを提案しました。

AEyeDEの核心は、「プロキシ」Transformerモデル（ホワイトボックスアクセス可能）を用いてテキストの注意アトリビューション行列を抽出することです。この行列は、各単語の生成時にモデルがどこに注目したかを表すだけでなく、人間とAIの著者の注意パターンの違いも捉えます。研究者らは、これらのアトリビューション行列から識別的特徴を学習する軽量な畳み込みニューラルネットワーク（CNN）を訓練しました。注意アトリビューション行列はモデル内部の表現であるため、単なるテキスト特徴よりも豊かで解釈可能な情報を提供します。

実験では、AEyeDEはさまざまな生成シナリオで評価されました。エンコーダ・デコーダ翻訳設定（機械翻訳タスクなど）では、テキストのみのベースラインを一貫して上回りました。より一般的なデコーダのみの生成設定（GPTシリーズなど）では、特定の生成器に対する検出で非常に高い性能を示し、標準ベンチマーク（RoBERTaベースライン）でも競争力を発揮しました。さらに、クロスデータセット転送や代替スペルの摂動に対してロバストであり、実用的な価値が高いことが示されました。

さらに分析を進めると、注意アトリビューションマップには繰り返し現れる局所構造（特定の注意パターン）が存在し、その相対頻度が人間とAI生成テキストで系統的に異なることが明らかになりました。この差は異なるデータセットやプロキシモデル間でも一貫しており、注意アトリビューションが有効な検出シグナルであるだけでなく、検出結果の解釈可能性も高めることを示しています。

AEyeDEは、注意ベースのアトリビューション分析がAIテキスト検出に有効であることを実証しました。コードは公開される予定で、今後の研究を支援します。この研究は、増加するAI生成コンテンツに対抗する新たな技術的アプローチを提供するものです。従来手法では捉えられなかった注意パターンの微細な違いを活用することで、より堅牢で説明可能な検出システムの実現が期待されます。