大学はAI検出ソフトに頼って不正を摘発しているが、それは機能するのか？

近年、ChatGPTなどの生成AIツールの普及に伴い、大学ではAIが生成または大幅に修正した学生の課題が急増している。この問題に対処するため、多くの高等教育機関がTurnitin、GPTZero、CopyleaksなどのAI検出ソフトウェアを導入している。しかし、これらのツールの有効性と公平性には大きな疑問が呈されている。

アイダホ州立大学の化学専攻の学部生Lauren Jagerは、博士課程に出願する際、応募システムが個人声明にAI検出ツールを使用すると警告したことに気づいた。彼女はAIを一切使用していなかったが、オンラインの検出器に自分のエッセイを入力すると、ほとんどすべてが「100% AI生成」と判定された。Jagerは書き直しを余儀なくされ、完璧さを意図的に下げて検出を回避した。同様の事例が世界中で報告されている。

AI検出ツールは通常、「パープレキシティ（困惑度）」と呼ばれる指標に依存しており、AI生成テキストは人間の文章よりも統計的に予測可能なパターンを示すため、低パープレキシティの文章が機械生成と判定されやすい。しかし、この方法は不完全である。2025年の論文では、当時最も広く使われていたGPTZeroをテストし、完全にAIが作成した論文は高い信頼度で検出されたが、人間が書いたエッセイをAI生成と誤判定する偽陽性率は約16%だった。著者らは、人間とAIのテキストを区別する信頼性は限定的だと結論づけた。

2023年の研究では、OpenAI、Writer、Copyleaks、GPTZero、CrossPlagなどの複数の検出ツールを評価し、古いGPT-3.5モデルで生成されたテキストの識別には比較的優れているが、より高度なGPT-4では性能が低下し、人間の文章に対して一貫性のない結果（偽陽性や不確定な分類）を示した。

さらに懸念されるのは、米国独立宣言のような明らかに人間が書いた文書がAI生成と判定される事例だ。NatureがZeroGPTで独立宣言を複数回テストしたところ、95%から100%の確率でAI生成と判定された。これは、検出ツールが特定の文体（例えば、厳格な文法ルールに従った文章）に対して系統的な偏見を持つ可能性を示している。

ハイブリッドテキストも新たな課題である。学生はAIに下書きを生成させた後、手動で修正したり、「人間化」ツールを使用してAI検出スコアを低下させることができる。検出企業はこれらの手法を識別する方法を開発しているが、新たな回避ツールが次々と登場し、「軍拡競争」が続いている。研究者らは、現時点で最も正確とされるPangram Labsの検出器でさえ、大規模な分析では傾向を示せても、個別のケースで直接的な証拠として使用すべきではないと警告する。

英国ベトナム大学のMike Perkinsは、検出ツールの結果は学生にとって重要な判断の証拠として用いるべきではないと強調する。偽陽性が無実の学生に深刻な影響を与える可能性があるからだ。また、教育者が自動化されたスコアを過信する傾向があるが、AI検出には盗用検出のような直接的な証拠がないと指摘する。2023年のスタンフォード大学の研究では、AI検出ツールが非ネイティブ英語話者のエッセイに対して61.3%もの偽陽性率を示し、顕著な偏見があることが明らかになった。

AI検出技術は進歩しているが、現時点では信頼性に欠ける。教育機関は、学術的誠実性を維持しつつ、不公平な告発を避けるバランスを模索する必要がある。専門家は、ソフトウェアに頼るのではなく、口頭試験、授業内での作文、プロセス評価など、評価方法自体を見直すことを推奨している。