オーウェルとAI

ジョージ・オーウェルは1946年のエッセイ「文学の防止」の中で、機械による自動文章生成を予見していた。彼は、人間の介入なしに物語を生産する機械を想像し、それを「コンベアベルトプロセス」と呼び、人間の創造性を最小限に抑え、フォード車のような標準化された製品を生み出すと述べた。オーウェルは、当時すでに映画やラジオ、広告やプロパガンダ、そしてジャーナリズムの低い部分で機械化のプロセスが見られると指摘し、ディズニー映画の制作プロセスや、安価な雑誌でテンプレートやカードを使ってプロットを生成する方法を例に挙げた。しかし、オーウェルはこの機械化の根本原因を全体主義の台頭と自由主義の終焉に求めた。彼は文学の死は独裁者によって強制され、過去の文学作品は抑圧されるか書き換えられると考えた。しかし、現実は異なる道をたどった。今日、書籍はかつてないほど容易に入手できるが、人々は自ら質の低いコンテンツを選んでいる。

55年後、B.R.マイヤーズは2001年の評論で消費側から同様の現象を指摘した。彼は当時の権威ある作家たち（オースター、デリーロ、マッカーシー、プルーら）の作品が、表面上は難解で深遠に見えるが、実質を欠いており、「深遠さの幻想」を創り出していると批判した。マイヤーズは、集中を必要とせずに難しさを演出し、実質がないにもかかわらず文学的に聞こえ、失うものがないため読み飛ばしても問題ない散文を標的にした。彼の結論は、洞察の幻想は洞察そのものとは別に製造可能であり、洗練された批評家を含む多くの観客はその違いを識別できないか、あるいは気にしないというものだった。私が以前書いたように、マイヤーズの論点は、四半世紀前に表面上の深遠さが批評家に人気だった理由が、今日の大規模言語モデル（LLM）の文章が人気である理由とまったく同じであることを示している。つまり、機械だけを非難することはできず、私たち自身も責任を免れない。どちらの場合も、冗長さ、曖昧さ、偽りの深遠さは組み込まれている。なぜなら、洞察の幻想が重要であり、真の理解はその幻想を壊すため歓迎されないからだ。

この二つのエッセイを並べてみると、知的分業が明確になる。オーウェルは粗悪なコンテンツの供給を診断し、マイヤーズは需要を診断した。しかし、オーウェルは機械化された文章の発生源を安価な雑誌やジャーナリズムの「低い部分」に限定し、市場のトップは実際の才能によって運営されており、警察国家だけがそれを廃止できると当然のことと考えていた。対照的に、マイヤーズは組立ラインがトップで稼働していることを発見した。それは、散文が装飾的で曖昧であるがゆえに、まさに真面目な文学として分類された受賞小説だった。オーウェルの先見性は、この機械化の原因において失敗している。彼は全体主義の台頭と自由主義の崩壊が文学を殺す力と見なした。「ルネサンス以降私たちが生きてきた自由文化が実際に終焉を迎えるなら、文学芸術もそれとともに滅びるだろう。」文学の死は独裁者によって課されると彼は考えた。全体主義の未来では、「過去の生き残った文学」は「抑圧されるか、少なくとも精巧に書き直されなければならない」と。しかし、本の禁止が文化戦争で依然として痛ましい話題である一方で、誰も過去の文学を実際に抑圧してはいない。過去の本はかつてないほど簡単に入手できる。オーウェルが愛したすべての小説は、怪しいロシアのウェブサイトで無料ダウンロードできる。本は保存され、自由に利用可能であり、無視されている。Rage Against the Machineが言ったように、「彼らは本を燃やす必要はない。ただ取り除けばいい。」結局、それさえも必要ないのだ。

奇妙なことに、オーウェルは最初は正しい答えを持っていたが、そこから後退した。エッセイの第二段落で、彼は知的自由の二つの敵を挙げている。「理論上の敵、全体主義の擁護者、そして直接の実践的な敵、独占と官僚主義。」第二のカテゴリーには、新聞王、映画大物、そしてすべての作家が食べるためにしなければならない使い捨ての仕事が含まれる。オーウェルが「漠然とした経済力」と呼ぶものが、芸術家の独立と生計を蝕んでいる。しかし、彼はすぐにそれらの「実用的な敵」を脇に置き、彼の頭の中で最も重要であったイデオロギー的全体主義の脅威に集中した。彼はその後二年間をジュラ島で過ごし、もう一つの敵についての小説を書いた。しかし、オーウェルがはるかに大きな大惨事の前景にある厄介者として扱った市場の機械化の引力は、実際には本当の大惨事であることが判明した。彼は、大量生産された粗悪品は禁止された代替品から生じ、読者は銃を突きつけられてコンベアベルトに追いやられると想定していた。私たちは自ら進んでそこに向かっている。ある意味で、私たちが今持っている結果はオーウェルが想像したよりも暗い。文学の衰退は、作者を投獄するビッグブラザーを必要としなかった。本を抑圧する政権は少なくとも本の力を信じており、検閲官の注意はその力への賛辞の形である。しかし今日、人々を粗悪品に向かわせているのは独裁者ではなく、広範な社会的・技術的力である。そのような拡散した変革は、トップダウンの禁止よりも逆転させるのがさらに難しいかもしれない。オーウェルは民主主義の死が読書を殺すと考えたが、実際には読書の死が民主主義を殺しているのかもしれない。