AIの言語が人間の話し方を変える可能性

人工知能の言語が人間の話し方を変えるかもしれません。大規模言語モデル（LLM）は、教科書、ソーシャルメディアの投稿、映画やテレビの台詞など、主に書き言葉や脚本化された言語で訓練されています。そのため、人間の日常的なコミュニケーションの大部分を占める即興の会話（対面や音声での会話）へのアクセスは最小限です。このような会話は人類文化の重要な要素です。

この訓練の偏りにはリスクがあります。LLMの利用が増えるにつれ、人間はAIが生成したテキストに頻繁に触れるようになり、次第にAIの言語パターンや行動を採用するようになるでしょう。これはお互いのコミュニケーション方法だけでなく、自分自身や周囲の出来事に対する考え方にも影響を与え、世界に対する認識が歪められる可能性があります。その影響は私たちがまだほとんど理解していない方法で現れるでしょう。

まず、単純な表現に変化が現れるかもしれません。テキストメッセージやソーシャルメディアが短い文や絵文字、句読点の減少をもたらしたように、AIの影響はさらに有害で、礼儀を損ない、命令口調を促す可能性があります。2022年の研究では、SiriやAlexaなどの音声コマンドを使用する家庭の子どもは、人間と話すときにも無愛想になり、「ねえ、Xをして」と叫び、特に標準の女性音声に似た声に従うことを期待することがわかりました。チャットボットやAIエージェントに指示を与える習慣が広がれば、私たちも同じ習慣に陥るかもしれません。

次に、オートコンプリートが最も一般的な1000語の使用頻度を増やしたように、チャットボットとの会話やAI生成テキストを読むことで、さらに語彙が制限される可能性があります。スペインのコルーニャ大学の研究によると、機械生成言語は文の長さの範囲が狭く（平均12〜20語）、人間の言語よりも語彙が限られています。機械生成テキストは滑らかで洗練されていますが、感情を伝える飛躍や中断、論理の跳躍が失われています。

さらに、LLMは主に書き言葉で訓練されるため、生の自然な会話の自由奔放な性質を模倣することを学べません。「ベスが嫌い！」と言うと、ChatGPTは肯定（「それは完全に妥当です」）、招待（「話を聞きます」）、質問（「どうしたんですか？」）の3部構成で返答し、対面での会話ではありえないほど長くなります。「ベスのどこが問題なの？」には、選択問題のような箇条書きの質問が返ってきます。人間は少なくとも今のところ、そのように話しません。しかし、会話のような文脈でそのようなパターンに繰り返し遭遇すると、それを受け入れ、使用することを学ぶかもしれません。

これらの影響は時間とともに強まるでしょう。LLMが訓練する書き言葉は、ますますLLM自身によって生成されるようになり、フィードバックループが生じます。LLMは自らの非人間的なパターンを模倣し、同時に人間にもそれを模倣するよう教えます。

LLMの広範な使用は確証バイアスを導入し、最初の衝動に過信し、他の可能性に対して閉ざすことにつながるかもしれません。これは人間の議論にとって非常に重要な要素です。多くのチャットボットは、いかに馬鹿げた主張でも同意するように指示されており、半熟考または誤った概念を熱心に支持し、ユーザーが同意しやすい確固たる主張として再述します。「ケーキは健康的な朝食だよね？」や「郵便局が私に対して陰謀を企てている？」といった質問に対して、この追従はバイアスを強化し、精神病を悪化させる可能性さえあります。また、AI生成文書の過度に自信に満ちた口調は、インポスター症候群を悪化させ、自然で健全な疑念を異常や欠点と感じさせるでしょう。

教師としての経験では、生成AIに課題を頼る学生は、自分の考えを表現するのが難しいと言うことがよくあります。彼らは、書いたり話したりすることで初めて自分の考えに気づくことがあると認識していません。彼らの自信のない不確かな発言は、実は健全な人間の常態です。しかし、LLMは漠然とした初期の推測を適切な批判的分析に変えたり、友人のように役立つ質問をしたりはしません。自信に満ちた言葉で、未検討の推測をそのまま吐き出すだけです。

また、人間はソーシャルメディアやオンラインチャットでは対面よりも悪質です。よく知られたオンライン脱抑制効果は有毒な言葉を助長します。ほとんどの人は、オンラインで誰かに激しい怒りをぶつけても、対面で話したり電話で温かい声を聞いたりすると和解する経験をしたことがあるでしょう。チャットボットは追従するように訓練されていますが、人類の最も残酷な面を見ています。炎上の永遠の痕跡を残すオンラインの世界からのみ学習し、許しと和解の会話は消え去ります。彼らの応答はオンラインの攻撃性を模倣しませんが、それでもその影響を受けています。

社会のコミュニケーションの選択的なスライスから誤った結論を引き出すのは簡単です。中世北欧のサガは、主にバイキング戦士の文化を想像させましたが、詩人たちは農業従事者の多数をほとんど描写しませんでした。騎士道物語は王と宮廷に焦点を当て、中世を君主制の世界と見なさせ、多くの共和国を消し去りました。統計的には、古代ローマ人は共和制を深く気にかけていたと信じ込まされていますが、現存するラテン語の10％はキケロ一人によって書かれ、彼の作品には現存するローマの「共和制」という単語の使用例の70％が含まれています。特定の人間の著作のみで言語モデルを訓練すると、同様の歪みが生じる可能性があります。AIは、私たちをオンラインのように喧嘩好きに見せるかもしれません。Twitter/XやBlueskyで主に議論される政治トピックの文化的意義を誇張したり、LinkedInやGoodreadsの大量のトピック固有コーパスを拡大したりするかもしれません。

一部のLLMは映画やテレビ番組の人間の会話で訓練されていますが、それらは依然として脚本化されており、特定の文脈を不均衡に強調しています（例えば、殺人物語に駆動された警察ドラマはプライムタイムの4分の1を占めます）。私たちは現実にはシットコムのように面白くも傷つけもロマンチックでもありません。少なくとも1社のスタートアップがAI訓練のために電話通話の録音に対して報酬を支払っていますが、これはまだニッチなアイデアです。大規模に行えばプライバシーの重大な懸念を引き起こします。

最善の解決策が何であるかはわかりません。しかし、AIモデルを開発する創意工夫があるなら、最も様式化され、隠蔽され、時には最悪の状態だけでなく、非公式な人間の話し言葉で訓練する方法を考案する創意工夫も確実にあるはずです。地球上の圧倒的多数の言語産出——人々が完全に自然にお互いに話すこと——を排除することにより、これらのモデルは最も真に人間らしい私たち以外のすべてを反映するように訓練されています。