研究におけるAI：すべてのAI関連問題を不正行為として扱うのをやめる必要がある

研究における人工知能（AI）の利用が一般化するにつれ、その許容範囲の境界は依然として不明確です。受賞歴のある白書『AIの未開の可能性を解き放つ：研究と出版における責任あるイノベーション』によると、AIの利用は年々急速に増加しており、多くの研究者がAIを採用しなければ遅れを取るというプレッシャーを感じています。しかしながら、責任ある利用のための共通規範はまだ追いついていません。

同時に、AIが責任ある方法で使用されているかどうかについての信頼は不均一なままです。調査では、回答者の71%がAIツールの誤用を懸念しており、研究者の53%が同僚による「AI誤用」を観察したと報告しています。この点は極めて重要です。研究者は、責任ある使用に関する共通規範が出現するよりも速いペースでAIツールを採用しています。学術記録への信頼を維持するためには、研究コミュニティは責任ある使用、不良行為、誤用、故意の不正行為を区別するための、より明確で一貫した方法を必要としています。

「AI誤用」という言葉は現在広く使われていますが、しばしば曖昧です。この用語は、誠実な誤り、AI出力への無批判な依存、開示漏れから、意図的な詐欺に至るまで、あらゆるものを包含する包括的なラベルとして使われることが多いのです。

重要なのは、研究者が「誤用」とラベル付けする内容が研究コミュニティ内で一貫していないことです。これは、意図的な不正行為（例：意図的な捏造や欺瞞）と、不良または安全でない慣行（例：適切な検証なしにAI出力に無批判に依存すること）の両方を包含しています。この混同は無害ではありません。意図的な欺瞞と誠実な過誤が同じ問題として扱われると、適切に対応する能力を失い、政策や懲罰的行動を弱め、説明責任を歪め、効果的な訓練を損ないます。

共有された定義がないため、制裁と説明責任に対する見解が二極化しています。この曖昧さは調査結果に反映されており、ゼロトレランスアプローチから、より実用的な透明性の要求まで、見解が高度に二極化していました。例えば、「AIを使用していることが判明した著者は、ジャーナル出版から永久にブラックリストに載せるべきだ」という意見がある一方で、「AIの犯罪化は未開示の使用に限定すべきだ」という声もありました。最近では、幻覚的な参考文献などの問題に対して最大1年間の一時的な禁止を求める提案も出ており、意図が不明確な場合でも懲罰的な対応へとシフトしていることを示しています。

現実には、AI関連の問題は（他の不正行為と同様に）、悪意による意図的な詐欺から、不適切な慣行による意図しないエラーまで多岐にわたります。一部の既存の枠組みは、行為がスペクトル上に存在することを認識していますが、AIに関する議論では、これらの区別がしばしば単一のカテゴリーに平準化されています。

意図のみに基づく単純な尺度では不十分です。欺く意図を判断するのは困難であり、特に初期段階や文書化が不十分なケースではなおさらです。しかし、影響だけでも十分ではありません。有害な行動の中には、最初は目に見える影響が限られているものもありますが、意図しない誤りでも深刻な損害を引き起こす可能性があります。

したがって、堅牢な評価には、意図と影響の両方、そして行動が発生した状況を考慮し、一貫性と釣り合いの取れた方法でエラー、誤用、不正行為を区別する必要があります。

この課題に対処するために、我々は、意図と影響の2つの次元に沿ってAI関連の問題を区別するシンプルなフレームワークを提案します。これにより、責任ある使用、低リスクの誤用、高リスクの誤用、または深刻な不正行為に該当するかどうかを評価するための、より実用的な基盤が提供されます。

責任あるAI使用とは、適切な人間の監視、検証、説明責任のもとでAIを使用することを意味します。これには、AIの使用方法に関する透明性、AI生成出力の検証、最終作業に対する明確な人間の説明責任、バイアス、包摂性、プライバシー、データ保護への注意、ジャーナル、機関、セクターのガイダンスの最新情報把握が含まれます。これらの原則は広く合意されています。

AI誤用（不適切または過失による使用）は、明確な欺瞞の意図がない場合の不適切、不注意、または過失によるAI使用と定義されます。これには、適切なレビューなしにAI生成テキストを含めること、未検証または捏造された参考文献を引用すること、不正確さやバイアスをもたらす出力に依存すること、十分な監督や専門的判断なしにAIを繰り返し使用すること、開示が期待される場合にAI支援を開示しないことが含まれます。すべての誤用が同じ結果をもたらすわけではありません。低リスクの誤用は修正可能で、研究の妥当性に影響を与えない単独のエラーです。高リスクの誤用は、研究の解釈、再現性、信頼性に影響を与える可能性があります。

深刻な不正行為（意図的な欺瞞または詐欺）は、研究の誠実性を著しく損なうAIの意図的な使用と定義されます。これには、データ、結果、画像の捏造、偽のAI生成参考文献の提示、誤解を招くためのAI使用の隠蔽、実質的なAI生成コンテンツのオリジナル貢献としての提示、盗用チェックを回避したりリサイクルコンテンツを偽装するためのAI使用が含まれます。

このフレームワークの目的は、不良慣行を容認したり基準を下げたりすることではなく、研究におけるAI使用に対してより一貫性と釣り合いの取れた対応を支援することです。意図、影響、状況を考慮することで、研究コミュニティは過誤が発生した場合に教育を支援し、欺瞞が明らかな場合に制裁を適用し、AIの可能性から引き続き恩恵を受けながら学術記録への信頼を維持することができます。