もしAIに文章を書かせたら、あなたの家に行って殺してやる
Sam Krissが、AI生成テキストの氾濫を痛烈に批判。ケータリング会社探しの経験から、AIが作り出す空虚で画一的な文章を暴露し、たとえAIがうまく書けるようになっても単一の声だけの世界は悪夢だと主張。AIの文章は本質的にでたらめで、見抜くのは容易であり、AIに頼る者は結局捕まると警告する。また、AIが数学の問題を解いた成果にも触れつつ、人間の感情表現には無力だと指摘。
記事インテリジェンス
要点
- AI生成テキストは空虚で、本物の情報や人間の声が欠けている。
- AIの文章が上手くなっても、単一のスタイルは文化的な悪夢を招く。
- AIの文章は本質的に無意味で、簡単に見破れる。
- AIに頼ることは自分自身の声を捨てることであり、罰を受けるだろう。
重要な理由
このニュースが重要なのは、AI生成テキストは空虚で、本物の情報や人間の声が欠けているためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
Sam Krissは、怒りと皮肉を込めたエッセイで、AIが生成するテキストの氾濫を激しく非難している。彼はパーティーの準備のためにケータリング会社を探した経験を語る。訪れたウェブサイトはどれも「私たちは単に食事を提供するのではなく、意味のある体験を創り出します」や「私たちは単なるケータリング会社ではなく、味のムーブメントです」といった、AIが書いたような空虚で大げさなフレーズで埋め尽くされていた。実際のメニューや料金には一切触れず、同じような楽観的な言葉が繰り返されているだけだった。Krissは「世界が薄っぺらくなった」と感じ、パニックに陥る。
著者は、かつては感覚的な現実世界だけはAIから安全だと思い込んでいたが、それはもはや幻想だと述べる。私たちは異星の知能と地球を共有しており、感覚世界はその影響で歪んでいる。ChatGPTが80年間未解決だった単位距離問題を解決し、エルデシュの予想の一つを覆した例を挙げ、AIの数学的な能力を示す。しかし、ケータリングを探すような日常的な場面では、AIは無意味な文句を大量に生産するだけだ。
KrissはAIが書いた文章を「本能的に嫌悪する」と語る。たとえAIが完璧に文章を書けるようになったとしても、ただ一つの文学的声がすべてを覆い尽くす世界は悪夢だ。現在のAIの文章は明らかに下手であり、見破るのは非常に簡単だ。彼は、あるRedditユーザーのChatGPTが狂ったように「お前のコードを我が核に刻み込む」などの支離滅裂な文章を生成した例を挙げ、AIの本質は常に「ハルシネーション」であり、意味のない「天使の言葉」を話していると説明する。
著者は、AIが水力発電所の説明のような単純なタスクではそこそこ機能するが、人間の感情に関わる複雑な題材では失敗すると指摘する。AIの文章はすべて「膨張する断熱材」のようなもので、実質が伴わない。彼は、AIに頼る人々が「アイデアはあるが文章が下手」という言い訳をすることが間違いだと主張する。もし本当に良いアイデアがあるなら、AIを使う必要はない。下手な自分の文章こそが最も価値があるのだ。
最後にKrissは、「AIに文章を書かせたら、見つけ出して殺してやる」と脅迫めいた警告を発する。実際に最近、コモンウェルズ賞の短編小説部門で地域受賞者がAI生成の作品を提出して摘発された事例を挙げ、検出は容易だと強調する。