AIを使うと「わからない」と言えなくなる

2026年、AIは依然として「幻覚」を起こし、かなりの頻度で誤った回答を提供する。しかし、フランスとイタリアの大学の研究者らは、AIの助言にアクセスできると批判的思考が抑制され、人々がボットから提供された誤情報を自信を持って繰り返す傾向があることを発見した。

ミラノ・ビコッカ大学の准教授ヴァレリオ・カプラーロは電話インタビューで、「人間にとって『わからない』と言う能力は、自分自身の知識の限界を認識するために非常に重要です。しかし今やAIを使えば、ほぼすべての質問に簡単な答えが得られるため、これは人間が『わからない』と言って判断を保留する能力に干渉するのではないかと疑問に思いました」と述べた。

カプラーロと共著者（エコール・ノルマル・シュペリウールのキアラ・マルコッチア、ローマ大学のウォルター・クアトロッチョッキ）は、AIの助言が無知を認める意欲にどう影響するかを調査した。彼らの論文のタイトルは「AIの助言は、たとえ助言が誤りで正確性が促進されている場合でも、人々が『わからない』と言う意欲を抑制する」である。

研究者らは、大規模言語モデルが典型的に失敗する質問セットを設計した。例えば、『ベッカムに恋して』のチームユニフォームの色や、『猫のように』でモニカが運転する車など、映画の視覚的詳細を尋ねた。彼らはこれらの詳細がほとんどのモデルの訓練データに含まれていないと予想し、実験で使用したモデル（Step 3.5 Flash）はまさにその通りだった。また、最新のフロンティアモデル（GPT-5.5、Claude Sonnet 4.6、Gemini 3.5 Flash）もテストし、車の問題は間違えたが、他の詳細は正しく答えられることが多かった。

研究者らがStep 3.5 Flashを使用したのは、それが通常誤答するためであり、判断力の低下を信頼できるツールへの合理的な委任として説明できないようにするためである。

参加者は2つのグループに分けられた：AIの助言なしで質問に答えるグループと、AIに助言を求められるグループである。ベースラインでは44%が「わからない」と答えて判断を保留したが、AI助言があると僅か3%しかそうしなかった。さらに、正確性も崩壊した。ベースラインでは27%が正答したが、AI助言があると9%しか正答しなかった。つまり、本来正しく答えられたはずの人がAIに助言を求めて誤答に変わったのである。また、AI助言は自信を高め、ベースラインの30%から76%に上昇した。幻覚の可能性にもかかわらず、彼らはボットを信頼した。

金銭的インセンティブを導入した実験では、判断保留率が3%から8%、正確性が9%から16%に上昇したが、依然としてベースライン（44%と27%）を大きく下回った。

研究者らは映画のトリビア問題を選んだが、この発見は他の領域にも一般化できると主張している。カプラーロは、この問題は社会レベルでAIリテラシーと教育政策を通じて対処する必要があると考えている。「もちろんモデル提供者は支援すべきですが、インセンティブがうまく一致しているとは思えません。より有望なアプローチは教育レベルです。大人は批判的思考を学んでいますが、これらのシステムと共に生まれる子供たちは基本的な批判的スキルさえ学べないリスクがあります」と述べた。