AIによるコンテンツの低質化とライティング

2026年5月6日

今や、少なくとも書き手である私たちが即座に認識できる文体があります。それはLinkedInの投稿、学生のエッセイ、マーケティングメール、ブログの下書き、そしてもちろん多くのMedium記事に現れます。2023年初頭にはこの文体に気づかない人も多かったでしょうが、2025年までにはこれを使うとRedditで嘲笑されることがよくありました。

誰もがテキストがAI生成かどうかを判断する独自の意見や方法を持っています。自らエムダッシュを使ったことのない人は「明らかな証拠」と言うかもしれませんが、私は強く反対します。エムダッシュの使い方を知れば、それを繰り返し使わずにはいられなくなります。もちろん、反社会性があるかAIと判定されるのを恐れている場合は別ですが。しかし私が最も気になるのは、AI生成の文章が検出可能かどうか（実際可能です）ではなく、プロンプトやモデルに関わらずなぜこれほど検出されやすいのか、そしてもしそれほど低品質に聞こえるのであれば、なぜインターネットがそれで溢れているのかということです。

なぜAIの文章は同じように聞こえるのか

GPT-3とGPT-4は2021年9月までのインターネットからスクレイピングされたテキストで訓練されました（おそらく違法ですが、判断は控えます）。その訓練データは特定の時代のオンラインライティングを代表しており、その時代には特定の文体がありました。2010年以降、インターネットはある種の偏りを持っていました。あまり形式張らず、あまりカジュアルすぎず、あまり意見が強すぎず、親切であること。

2012年に設立されたMediumは「思想のリーダーシップ」のプラットフォームとなりました。2021年までに何百万もの記事が掲載され、そのほとんどが個人の逸話、普遍的な洞察、3点構成、そして楽観的な結論という同じテンプレートに従っていました。全体的なスタイルは会話調でしたが、文法ツールによって磨かれ、脱線した文章やコンマなどの人間の不完全さが取り除かれていました。その後、SEO最適化の時代が到来しました。2015年から2020年の間に、企業ブログが台頭し、明確な目標はGoogleで上位にランクすることでした。

第三にウィキペディアがあります。中立的で百科事典的な内容になるよう徹底的に編集・校正され、引用が豊富です。第四にRedditがあります（これはClaudeの性格を形成したと今でも信じられています）。カルマシステムは大規模なRLHFデータセットとして機能し、人間、ひいてはAIを、明確でバランスが取れ、やや友好的で、攻撃的でない方法で書くように訓練しました。AP通信やロイターなどのニュースアグリゲーターのスタイルガイドはオンラインジャーナリズムを定義し、しばしばクリックベイトや注目を集めるための工夫がなされていました。短い文章、能動態、副詞の回避。これにより、良い文章とは簡潔で事実に基づき装飾がないという考えが強化され、その結果、GeminiのようなAIモデルは魂のない良い文章を提供するのです。

したがって、ほとんどのモデルの最終的な訓練データセットは正確には「人間の」文章ではありません。人間によって書かれたものではありますが、徹底的に編集され、人間らしさが完全に消えるまで最適化されています。これが教える単純な真実は、LLMに文章を書くように促すとき、本質的には訓練データ内の「良い文章」の統計的特徴に合致するテキストを生成するよう求めているということです。

そしてそのような「良い文章」には、エムダッシュ、修辞的な質問、ヘッジフレーズ、強制的な熱意がしばしば含まれていました。AIモデルが文章でエムダッシュを使い始めた瞬間、人類史上最も愚かな神話の一つが生まれました。「記事中のエムダッシュはAIが書いた証拠」というものです。この神話の理由は確かにOpenAIのChatGPTがエムダッシュの使用に執着していたことに起因します。その執着は非常に強く、エムダッシュに制限を設けることが一部のGPTアップグレードの機能になりました。ある程度、ChatGPTがエムダッシュに執着したのは、人間が特定の文脈、つまりカジュアルでありながら権威のあるオンラインプローズでそれらを頻繁に使用していたからであり、それは多くのLLMが目指すまさにそのトーンなのです。

なぜAIによる低質化が起きているのか

ここで、いわゆるAIの隆盛において私が最も気になる点に移ります。インターネットの低質化です。AI生成コンテンツは、巧妙にプロンプトされない限り、しばしば低品質です。本質的に予測可能で、創造性に大きく欠けますが、一部の無神経な出版社はそれでも使い続けています。

1500語の記事を制作するコストが、ライターに時給60ドル支払うことからAPIコストで数セントに下がると、利益重視の出版社は「これは洞察に富んでいるか？」と問うのをやめ、「これはGoogleで1位になるのに十分か？」と問い始めます。答えは、多くの場合「いいえ」であり「はい」です。AIはSEO重視でキーワードを詰め込んだ記事を非常に巧みに書くことに長けており、シェイクスピアよりも上手かもしれません。ただしそれは彼がGoogleについて何も知らなかったからでしょう。重要なのは、多くの企業や機関が競合他社の平凡なブログ記事の上にランクすることを重視し、そのため自社サイトをAI生成のゴミで埋め続けていることです。おそらく気づかずに、それらのブログ記事もトップクラスの平凡さであることを。

ブログ記事だけでしょうか？そうであればいいのですが。AmazonにはAIが書いた本が何百冊もあり、数千部を売り上げています。その意味で、人口の一部はAIの能力に気づいていません。エムダッシュが決定的な兆候ではありませんが、文章の予測可能性と自発的な創造性の欠如は兆候となり得ます。それでも人々はそれらを読み、出版し、共有しています。

こうして、私たちはすでにAIによって低質化されたインターネットを手にしています。

どれだけ多くの人が執筆にAIを「活用」しているか疑問なら、r/WritingWithAIをご覧ください。

そしてこれは、AI開発者が懸念する副次的でありながら魅力的なシナリオ、モデル崩壊をもたらします。この低質コンテンツがインターネットにあふれると、それは必然的に次世代の大規模言語モデルの訓練データになります。GPT-3が必死にウィキペディアのようになろうとする人間の書き手で訓練されたなら、将来のモデルは必死にGPT-3のようになろうとするAIの書き手で訓練されるでしょう。古いニューラルネットワークの合成出力からモデルを訓練すると、それが持っていたわずかな統計的分散が消失し始めます。言語は完全に平坦化され、モデルは極めて反復的で「平均化された」英語バージョンを学習します。

AI低質化を非難することは、私たち自身を非難することです。2010年代以降、人間の書き手はSEOマシンのように書くよう訓練されました。癖、偏見、変わった文章を編集し、キーワードで記事を埋め尽くすように。AIが登場し、私たち自身の書き方を再現したとしても、驚くべきではありません。

では、現在の時代に上手に書くことは…非効率的に書くことです。AIは私がこの文に「blah」という単語を挿入したことを推測できません。なぜなら統計的確率ではエムダッシュの後に「blah」を追加する確率は0だからです。そうすれば、人間はそれが人間が書いたものだと知るでしょう。