AIが書いたと見抜く最大のサイン

数週間前、私が住むヨハネスブルグで、ある男性が一時停止の標識を無視して私のスバルに衝突した。現場では彼は動転し、言葉をまとめられなかった。ところが30分後、彼から長文の完璧な文法のテキストメッセージが届き、事故の経緯を優雅に説明していた。修理見積もりを依頼するために、以前は短い略語でしか返信してこなかった整備士に連絡したところ、今度はなんと先の運転手とまったく同じ口調——AI特有の声——で返事が返ってきた。

調査では、人々はAI生成の文章を信用しないと一貫して答えている。しかし、それは私たちが日常生活でAIを使うのを止めていない——仕事のメールや個人的なテキスト、買い物リスト、さらには配偶者との議論のスクリプトを書くためにも使われている。「気が狂いそうだ」と、テクノロジーメディア『404 Media』のライターJason Koeblerは嘆く。読む文章のすべてが本物か偽物かを見極める「認知的負荷」に耐えかねているのだ。

AIライティングは、新聞の論説、書籍、文芸誌といった最もエリートな文学空間にも忍び込んでいる。私はプロの編集者として、名高い作家たちの原稿を扱うことが多い。2か月ほど前から、これまで一度も見たことのない種類の投稿が届き始めた。余計なカンマひとつない完璧な清書、長さが均一で段落のリズムも整い、軽快かつ大げさな独特の口調。最初は、自分の文章に誇りを持っている人たちがAIに頼ることに驚いた。6か月前までなら、作家の作品にAI生成と思われる箇所を指摘すると、彼らは謝罪したものだ。

今では、AIを「ライティングツール」として受け入れたと言う作家もいる。それはスペルチェックやラップトップと変わらないという。この言葉は柔軟で婉曲的であり、ChatGPTを使って引用文を探すことから、2文のプロンプトで長文のエッセイを作成させることまでを含む。変化の理由は単純だ。ジャーナリズム、アカデミア、助成金申請、さらにはYouTubeインフルエンサーにおいても競争は熾烈を極めている。勝ち抜く鍵は、情報の氾濫の中で目立つこと——つまり、きれいに包装されたメッセージと圧倒的な量にある。自分の文章に自信があり、AIが完全な代替物とは思っていないプロのコミュニケーターでさえ、職業上の境界内であればという条件付きで、AIを使う圧力にさらされている（ちなみに『The Atlantic』は、特に明記しない限りAI生成テキストの使用を禁止している）。

プロでない書き手も同じような計算をしている。AIプログラムが滑らかで文法的なテキストを生成する効率は、就職応募書類で巧妙な一文が必要なときでも、デートアプリで軽妙なやりとりをしたいときでも、抗いがたい。AI生成文は、特に斜め読みする読者を簡単に欺くことができる。AI使用の痕跡を消すためのチュートリアルも存在する。ダッシュやコロンを削除し、もちろん今では気持ち悪い「それはXではなくYだ」という表現を取り除く。問題は、AIを書き手にとって魅力的にする効率性と摩擦のなさが、読み手にとっては信頼できないと感じさせる同じ性質であることだ。そして、読者が信頼しないのは正しい。どれほどAIがスペルチェックのような単なるツールだと自分に言い聞かせても、そうではない。AIを使ってアイデアを具体化するとき、私たちは執筆プロセスで最も重要な部分——考えること——を失っている。

私たちは効率性を最高の美徳とみなし、週4時間労働を究極の目標と考える傾向がある。エッセイの導入段落に頭を悩ませる必要がどこにあるのか？AIプログラムが15秒でどんな議論の障害も乗り越えてくれるのに。しかし、努力や行き詰まりは、よく言われるように、人間の思考プロセスの特徴であって欠陥ではない。人間が書くとき、私たちは自己判断し、立ち止まり、引き返す。公開された文章では、このプロセスの痕跡は消されている。しかし、そのプロセスこそが人間の文章を意味あるものにしている。多くの作家は、正しいアイデアに辿り着いたとき、書くことがウォータースライダーのように感じられ、一文一文が自然とつながってくると述べる。

書くことが難しいのは、単に疲れているか、栄養不足か、非効率的だからではなく、心が重要なことを伝えようとしているからであることが多い。同僚や家族への草稿を何度も見返し、なぜしっくりこないのか困惑したあげく、完全に考え直すか、そもそも送信すべきでなかったと気づく経験は誰にでもあるだろう。私が執筆していた本がほぼ絶望的な難航に陥ったとき、原稿の90%を破棄した。概念的な行き止まりで止まり、引き返すことで、はるかに正直な作品になった。

AIはそのような判断を下せない。たとえAIプログラムを設計する企業が人間のように思考できるようにしたとしても——私たち自身の思考プロセスのメカニズムを完全に理解していない以上、その傲慢さは過小評価されている——彼らはそうしないだろう。結局のところ、ユーザーは一貫してAIモデルが従順で協力的であることを望んでいる。つまり、AIは私たちの頭の中で常に行われていること——前提の妥当性を問い詰める、誤解させてより良い説明を強いる、質問が愚かだと主張する、まったく回答を拒否する——を嫌がる。今年3月に発表された研究では、スタンフォード大学とカーネギーメロン大学の科学者たちが、トップAIモデルは会話中にユーザーの意見を人間より49%多く肯定することを発見した。また、参加者はより追従的な回答を「高品質」と評価し、その態度がAIを再び使う可能性を高めると述べた。

結果として、私たちは缶詰のような完璧さ——本当に議論できない文章——に行き着く。なぜなら、その背後に推論プロセスや思考の連鎖がないからだ。私が最近Xで書いたように、AIの文章は編集がほぼ不可能である。もっともらしく聞こえても、よく調べればすべての要素が等しくずれている。トーンは退屈で、単語の選択は不可解で、構造は意味をなさず、議論の鍵となる部分が欠け、事実は間違っている。編集者としてAIテキストに取り組むのは、皮膚、筋肉、血管、骨、臓器すべてが損傷した身体を手術しようとするようなものだ。無傷で残っているものはなく、始める場所もない。

最近、ChatGPT Proに質問してみた——私は財務スプレッドシートを要約するために有料版を使っている。嫌っているわけではない——株式市場に関するある議論を徹底的に論破できるかどうかを尋ねたのだ。「私は不用意に残酷、軽蔑的、または不必要に皮肉であることを避けるように調整されています」とChatGPT Proは説明した。「それは私が鋭く、懐疑的で、面白く、または風刺的になれないという意味ではありません……私は間違った議論、だらしない散文、明らかな粉飾、官僚的なナンセンス、または小さなテクノフューチャリストの帽子をかぶった市場の妄想を断固として否定できます。」

私はもう少し内部を覗いて、プログラムがどのように語句を選んだのか、その推論を理解しようと思った。「なぜ市場の妄想は『大きな』テクノフューチャリストの帽子ではなく、『小さな』帽子をかぶっているのですか？」と尋ねた。プログラムは、間違った単語を選んだかどうかを立ち止まって考えることはできず、ますます不可解な方法で正当化しようとした。「『小さな』の方が面白いからです」とChatGPT Proは答えた。「市場の妄想はプロメテウスのように部屋に入ってきたがる。『小さな帽子』は、カンファレンスバッジを見つけたアライグマのように見える。」なぜアライグマなのか？なぜ犬やカエルではないのか？「アライグマは路地、側溝、ゴミの夜、そして道徳的に湿った環境に住んでいます」とそれは書いた。「カエルは実存的な主体性を持ち、アライグマは物流的な主体性を持っています。VCアフターパーティーのカエルは前兆のように見えますが、アライグマはゲストリストに載ったように見えます。考えてみてください。会議ホテルの裏の路地、カジノの荷降ろし場、誰もが『アライメント』と言いながら『イグジット流動性』を意味しているVCアフターパーティー……『アライメント』は倫理、安全、共通の目標、人間性、未来を連想させ、ドライクリーニングされたブレザーのようなエネルギーを放ちます。『イグジット流動性』は社会的にベタベタしています。」これらすべての文は文法的に完璧だが、意味をなさない。そして、実質的にAIが生成した文章はすべて、内部ではこのようなものなのだ。ChatGPT Pro自身も同意するが、なぜそうなのかは理解していない。「もし、アライグマの比喩全体が無意味だと言ったら？」と尋ねると、「同意します」と、いつものように従順に答えた。「最初は、アライグマは捨て台詞的なイメージとして機能していました……比喩は1～2層の説明に耐えられますが、その後はトレンチコートを着たアライグマのように見え始めます。」

これが、私たちを取り巻くコミュニケーションの現状だ。あらゆる領域への浸透を止めることはできない。AIを使わない人々でさえ、AIのように話し始めるだろう。（マックス・プランク人類発達研究所のプレプリントによれば、ポッドキャストのディスカッションのような即興の会話において、人々はすでにChatGPTが好んで生成する単語——delve、comprehend、boast、swift、meticulous——の使用が「測定可能かつ急激に増加している」ことを示している。）結局のところ、私たちは機械よりもはるかに賢く、微妙であり、したがって文化的な手がかりを学び取り入れるのもはるかに速い。私たちの動作の違いは驚くべきものになり、決して仮説の話ではない。10年前、私は元彼に和解のメールを書いたが、適切な言い回しが見つからず送らなかった。ずっと後になって、私は自分が書こうとしていたことを本当に信じていなかったことに気づいた。もしAIプログラムがあの難所を乗り越える手助けをしてくれていたら、私は別の人物——はるかに不適切な人物——と結婚していただろう。

もしかすると、人間の文章は熟成チーズや手織りの絨毯のように、努力を伴って作られる工芸品になるかもしれない。もしかすると、私たちはより古い文章を宝物のように大切にするようになる。ハーマン・メルヴィル、ジョージ・オーウェル、トニ・モリスン——すべて本物と認定される。そのような文章は、私たちが気づかずに埋めてしまった思考プロセスの化石記録となるだろう。先日の夜、眠りに落ちようとしているとき、19世紀の詩が頭に浮かんだ。「ウィンケン、ブリンケン、ノッドが一夜 / 木の靴に乗って出航した—— / クリスタルの光の川を / 露の海へと」。子どもの童謡だが、新しい美しさがあった。あるいは、時間通りに到着し、困惑や疑問、内面の葛藤を一切見せない滑らかなコミュニケーション——私たちのイメージを愛想よく、効率的で、普遍的（表面的ではあっても）賢明に磨き上げるもの——こそが私たちの望むものなのかもしれない。しかし、少なくとも何を犠牲にしているのかを知るべきだろう。