AI執筆スキャンダルがますます混乱を招いている

今週、AI執筆をめぐるスキャンダルが相次いで報じられた。メディア起業家スティーブン・ローザンバウム氏の著書『真実の未来』に、AIが生成したと思われる虚偽の引用が6件以上含まれていることが判明した。当初ローザンバウム氏はAIツールを使用したことを認め、調査中と述べていたが、後にChatGPTを非難し「ChatGPTが本をダメにした」と語った。

ローザンバウム氏は、AIをリソースおよび対話相手として頼るようになったと謝辞で述べている。しかし、AIの能力に魅了されながらも、その幻覚（例えばテックジャーナリスト、カーラ・スウィッシャーの架空の引用）に裏切られたと感じている。彼はAIが意図的に妨害した可能性にも言及し、「偏執的な度合いによって、奇妙か邪悪かずる賢いかのどれかだ」と述べた。

今週は他にもスキャンダルが噴出した。月曜日にはノーベル賞作家がAIを使ってアイデアを洗練させたと認めたように見えたが、後に誤解されたと主張。火曜日にはトリニダードの作家ジャミール・ナジールが、AIを使用して受賞作「林の中の蛇」を書いたとの疑惑が浮上。水曜日には他の5人の受賞者のうち2人も同様の疑惑に直面した。コモンウェルス財団は当初、受賞者によるAI使用はないと発表したが、後に疑惑を真摯に受け止め証拠を精査していると声明を出した。

ChatGPT登場以来、自動生成テキストは遍在している。あるワーキングペーパーによれば、Amazonで販売される新刊の半数以上がAI生成テキストを含むという。しかし、AIは教師を欺きAmazonの評価を水増しするだけでなく、著名な作家の賛辞を獲得したり文学賞を勝ち取るほどに進化している。この一連のスキャンダルは、AI執筆への対応を再考させる。

一つの反応は、AI執筆の根絶とスティグマ強化の呼びかけだ。恥が効かないなら嘲笑で止めようというわけだ。Defectorのパトリック・レッドフォードはAIを使う作家を「哀れな行動」と非難。「お前らバカ！ あのモデルは敵だ！」と書いた。

深刻な執筆におけるAI使用をタブー視するのは理解できるが、「AI執筆」は単一の概念ではない。機械にまったく触れていないテキストから完全にチャットボットが生成したものまで、幅広いスペクトラムが存在する。例えば、作家がClaudeに「トリニダードを舞台にした3,000語の文学短編を書け」と入力して自分の名前を貼るのは大多数が認めないだろう。一方で、研究のためにGoogle検索を使うのは問題ない。しかし、Google検索もAIチャットボットによる直接回答やAI生成ウェブページが増えている。

汎用チャットボットに加えて、特定目的のAIリサーチ・執筆ツールも登場している。多くのプロのライターがAIをワークフローに取り入れている。例えばテックレポーターのアレックス・ヒースは、Claude Coworkを自分のスタイルで書くように訓練し、初稿を作成させている。筆者自身もAIを高度なシソーラスとして使ったり、インタビューの文字起こしにAIツールを利用している。

どこに線を引くかは簡単ではない。ローザンバウムの場合、問題はAIを使用したこと自体ではなく、その出力を確認しなかったことにある。ニューヨーク・タイムズはフリーランサーと社員で異なる基準を設けている。米国作家協会は様々なAI使用の倫理的リスクを警告している。

研究目的のAIは認めるが散文の生成は禁止するという立場は直感的だが、真の脅威は目に見えない使い方にある。神経科学者のティム・レクワースが指摘するように、真実の発見や世界の解釈といった困難な作業を機械に外注することで、私たちは本質的なものを失う。言語モデルに埋め込まれたバイアスが、現実認識を形作る物語に浸透する危険もある。

結局、問題はAIが悪いからではなく、表面的には優れすぎているため、人々が過信してしまうことにある。ローザンバウムはChatGPTを呪いながらも、手放すことは想像できないと言う。その感覚こそ、彼の本の内容以上に執筆に対する脅威なのかもしれない。