あなたが嫌っているのはAIの粗悪品ではない

2026年の今、私たちはスパムメールを瞬時に見分け、パートナーからのAI作成メールもすぐに気づくことができます。経理担当者や上司の上司からのAIメールでさえもすぐにわかり、もし彼らがGeminiの出力を送ってきたら、激怒するでしょう。誰もがAIの粗悪品を嫌っています——しかし、本当にそうでしょうか？

2024年11月に『Scientific Reports』に掲載された研究（あの古いモデルを想像してください！）で、PorterとMacheryは、人々がAIが書いた詩を人間の詩と判断する可能性が、実際の人間の詩を人間と判断するよりも高いことを発見しました。2023年には、Jakesch、Hancock、Naamanが6つの実験を通じて、人々がAIの粗悪品と人間のコンテンツを区別できないことを示しました。

では、人々は何を嫌っているのでしょうか？粗悪品そのものではないとすれば（区別できないのだから）、間違いなく「AIで作成」というラベルです。Zhuらによる2025年7月の研究では、人々はAIと人間の生成コンテンツの違いを認識できませんでしたが、一度情報を与えられると、「人間が生成」と表示されたコンテンツを明確に好みました。

これらの証拠にもかかわらず、私はLLM生成コンテンツを含むメールや文書を送ったことで非難されたことがあります。ある時、私と緊密に協力している同僚が「Sidharth、これはAIが書いたのか？」と言いました。2026年には、これは「あなたらしくない」という意味でデフォルトの表現です。

その理由は、人間は決してAI検出器ではなかったからです（どうしてなれるでしょう？LLMは私たちの言葉で訓練されているのです！）。私たちは「人物検出器」なのです。誰かを十分に読み込むと、無意識のうちにその人の話し方のモデルを構築します。それは、すべてのメール、テキスト、議論といったサンプルで構成されています。そして、モデルに合わないものが来ると、頭の中で警報が鳴り響きます。

それは偽造のように感じられます。しかし、私はメールで誰かを偽造したわけではなく、私を偽造したLLMは私自身が指示したものです。偽造されているのは私という人格ではなく、私の存在感です。これを「存在感偽造」と呼びましょう。それが気持ち悪いと感じる理由です。

研究がこれを発見できないのは、すべてが見知らぬ人の文章を対象に設計されているからです。しかし、見知らぬ人を知らないので、偽造を検出できません。つまり、「人間の見知らぬ人」対「LLMの見知らぬ人」の比較に過ぎないのです。

これが、ゴーストライティングを誰も気にしない理由も説明します。政治家のスピーチやCEOのメモは厳密には偽造ですが、あなたはその上院議員に会ったことがありません。彼らがどう話すべきかの事前情報がなく、偽造はすり抜けます。そこには偽造すべき存在感がそもそもなかったからです。今、母親からの人生アドバイスの手紙がゴーストライターによって書かれていたと知ったらどう感じるか想像してみてください。

唯一の例外は、専門家が自分の専門分野の文章を読む場合です。Chakrabartyらは2025年、一般読者はAIと人間の散文を区別できなかったが、MFA訓練を受けた作家は区別でき、AIの品質をはるかに低く評価したことを発見しました。

その理由は理解できます。ChatGPTやClaudeと会話していると、一見もっともらしく、時には素晴らしく見える発言が、2秒後にはまったく空虚であることが明らかになります。それは偽のロレックスです。カウンターに置かれている間は完璧ですが、秒針を見ると、スイープではなくチクチク動いているのがわかります。それはスタイルの問題ではなく、思考の欠如なのです。

ですから、見知らぬ人のLLM生成コンテンツを検出しようとすると、何も見えません。しかし、自分を知っている人からのものだと、ひときわ目立ちます。

ただし、LLMが非常に優れている場合は別です。同じChakrabartyの研究で、モデルを特定の著者にファインチューニングすると、その著者のスタイルで生成された散文は、MFAの偽造検出器をかわす頻度がはるかに高く、AIと判定されたのはわずか3％でした（通常のプロンプトでは97％）。偽造検出器をかわすには、検出器と同じもの——サンプル——が必要です。そしてサンプルこそが人間関係そのものです。

しかし、うまい偽造は許されるわけではなく、単に検出されないだけです。1930年代にHan van Meegerenがフェルメールの偽作を制作したとき、それらは現存する最高のフェルメール作品と称賛されましたが、彼が自白するとすべて価値を失いました。絵の具は一滴も動いていないのに、傑作から嫌悪すべきものに変わったのです。キャンバス上の何も何かを語ってはいません。絵画はvan Meegerenがそう言ったときに初めて偽作になったのです。だからこそラベルが非常に重要です。物体自体が告白をやめたとき、人々はラベルに頼るのです。

私の同僚が私がLLM生成の言葉を送ったと気づけたのは、サンプルサイズのせいでした。彼には10年にわたる会議、メール、Slackスレッド、文書があり、私を知っていました。これはまさに、モデルを私のように聞こえるように訓練するために使用するデータと同じものです。

親密さは大きなサンプルサイズなのです。

検出と偽造は同じ井戸から水を飲みます。私の身近な人々は私をより良く検出できますが、彼らは私の話し方の大まかな印象しか持っていません。モデルはそれをすべて、正確に保持でき、より良くなっていきます。ですから、LLMがより親密になり、本当に私たちのように聞こえるようになれば、私たちも友人の偽造検出器をすり抜けられるようになるでしょう。しかし、そうすべきなのでしょうか？

注目すべきは、van Meegerenは決して捕まったわけではないということです。彼は別の罪——ナチス協力——から命を救うために自白したのであり、戦後オランダで偽作への嫌悪とナチスへの嫌悪が重なり、実際に彼は英雄になりました。二つの嫌悪が一つの好意になったのです。