AIが（賢いハンスの）馬に似ている理由 [動画]

人工知能という言葉には、常に神秘と誤解がつきまとう。よく引き合いに出されるのが「賢いハンス」効果だ。これは20世紀初頭、ハンスという馬が蹄を叩いて簡単な算数の計算をしているように見えたことに由来する。しかし後の研究で、ハンスは実際には計算を理解しているのではなく、訓練者や観客の無意識の身体言語——例えば頭や顔の微細な動き——を読み取り、いつ叩くのを止めるべきかを知っていたことが明らかになった。

この現象を現在のAIシステムに当てはめると、驚くほど似た構図が見えてくる。多くのAIモデル、特に大規模言語モデルは、質問に対して印象的な正確さで回答するが、実際には訓練データの中のパターンに依存していることが多い。人間が文脈やプロンプト、言葉の選択を提供すると、モデルはそれを真の理解ではなく、微妙な手がかりとして利用して回答を生成する。ハンスと同じように、AIは「答えを知っている」ように見えても、実際には人間の合図に反応しているだけなのだ。

この認識は極めて重要である。医療、司法、金融などの高いリスクを伴う分野にAIを導入する前に、真の推論とパターンマッチングを注意深く区別する必要がある。「賢いハンス」のような歴史的な警告話は、今なお知能の本質を問いかける鏡であり続けている。