プレゼンテーションのみの修正でAIピアレビューを操作できる

要点

• 攻撃者は科学的証拠を一切変更せず、要旨、導入、議論などのプレゼンテーション内容のみを修正してAI査読スコアを引き上げる。
• 3つの主流AI査読システムにおいて、攻撃成功率は75.1%、平均スコア上昇は1.21/10であった。
• AI査読者は「納得させる」より「印象づける」のが容易であり、限界への対処の「見かけ」と「実際の解決」を混同しやすい。
• 論文は、プレゼンテーションのみの編集下でAI査読者が科学的内容に留まるかをテストするための、汚染のないローリングベンチマークと攻撃フレームワークを公開している。