AIは人を自信過剰に誤らせる

シリコンバレー、カリフォルニア（2026年7月20日）——先週発表された新しい研究により、職場で蔓延する過信かつ能力不足の人々の背後にあるメカニズムが明らかになった。そのメカニズムは「流暢性置換」である。つまり、構文的に一貫性があり断定的なAIの回答が用意されていると、人々は事実確認や検証（「認知降伏」と呼ばれるプロセス）を行わずに、表面的なもっともらしさに基づいてそれを受け入れてしまう。AIの回答は、人々が「十分に知っている」と判断する基準を引き下げ、健全な判断の保留を減らし、未検証の情報に対する過信を膨らませる。

この動態は、「スロップゾンビ」という関連現象の蔓延を部分的に説明している。先に筆者が述べたように、スロップゾンビとは「あらゆることにAIチャットボットを使う人々」である。彼らは自分たちが読んでもいない（しかし読むことを期待する）非常に長く、詳細で凡庸なレポート、メッセージ、メール、スライドデッキで相手を圧倒する。すべてをAIスロップで説明し、自身の創造性に驚嘆する。

その記事で筆者は「スロップゾンビは、自信が高まるにつれて愚かで怠惰になる。彼らはAIチャットボットのアイデアや作業を自分のものだと信じている」と主張した。スロップゾンビは懐疑心と判断力をAIに委ね、AIはしばしば自信過剰に誤る。ユーザーはAIの「知識」を自分のものだと信じ込む。

新しい研究では、研究参加者がAIのアドバイスを利用できる場合、「わからない」と言う割合が44%（約半数）から3%（ほぼゼロ）に低下した。彼らは「わからない」とは言わないが、実際にはしばしば知らなかった。AIアドバイスを利用すると、参加者の正確性は27%から9%に低下し、自信は30%から76%に上昇した。言い換えれば、AIを使う人々の正確性は3分の1しかないが、自信は2倍以上だった。AIが利用可能であるだけで、自分が何を知り何を知らないかを認識する認知的習慣が侵食される。つまり、AIは人々に自分が知っていることと知らないことについて妄想を抱かせる。

以前のウォートンスクールの研究でも同様の結果が見られた。人々は誤ったAI回答を80%の確率で受け入れ、AIなしで作業する人よりも高い自信を示す。これがスロップゾンビ妄想の最大の部分である。彼らは自分の知識と能力に超自信があるが、実際には知識も能力もあまりない。彼らは自分がスーパー貢献者であるかのように振る舞うことでスロップゾンビになる。

スロップゾンビは、同僚に長く回りくどい内容の提案書、スライドデッキ、メールを送りつけ、自分は優秀だと信じているが、実際にはチーム全体や部門の生産性を低下させることが多い。なぜなら他のメンバーは、彼らのアウトプットのどの部分が間違いや問題を含むかを見極めるために、より努力しなければならないからである。スロップゾンビは、故障したテニスボール発射機を操作しながら自分をセリーナ・ウィリアムズだと信じているようなものだ。

スロップゾンビ感染症に対処する第一歩は、スロップゾンビを見分ける方法を学ぶことと、AIが人々に誤った情報を自信を持って自分のものとして主張させる現象とメカニズムを理解することである。スロップゾンビについての筆者の以前の記事には、私たちの周りを歩くスロップゾンビに対して何ができるかについての具体的なアドバイスが含まれている。