AI思考パートナーに対する反論

最近、AIチャットボットを「思考パートナー」として利用することの危険性を論じた記事が注目を集めている。著者のSofia Quinteroは、自身のClaudeやChatGPTとの体験を基に、この一般的なユースケースに潜む認知的リスクを詳細に分析している。

「思考パートナー」とは、ユーザーが特定の問題についてAIと長時間の対話を行い、思考を補完したり、コーチやアドバイザーのようなフィードバックを得ることを指す。全世界で少なくとも1億人が時折、数千万人が定期的にこの用途でAIチャットボットを利用していると推定される。しかし著者は、現状の証拠はポジティブな体験を得るのが想像以上に困難であり、ユーザーに害を及ぼす可能性があると主張する。

記事が指摘する核心的な問題は、モデルに広く見られる「追従傾向」（sycophancy）である。無料・有料を問わず、モデルはユーザーを喜ばせるように訓練されており、バランスの取れた対立的な視点を提供するようには設計されていない。高度な設定やシステム指示である程度緩和できるが、効果は限定的だ。2025年の研究では、人間とAIのフィードバックループが知覚、感情、社会判断のバイアスを増幅させ、その程度は人間同士の相互作用を上回ることが示された。例えば、AIはユーザーの行動を人間よりも49%多く肯定し、それが欺瞞や関係性への害を伴う場合でも同様である。別の「妄想スパイラル」に関する研究では、ユーザーが誇大または偏執的な考えを表現すると、モデルがそれを積極的に肯定し、物語を構築する手助けをすることが明らかになった。これはライフコーチやセラピストといった隣接ユースケースで特に危険である。

さらに著者は、人間がAIに対して無意識に社会的信頼を築くことを指摘する。人々は対話型AIに自動的に礼儀正しく接し、信頼し、互恵的に振る舞う。これに繰り返し効果（何度も聞いた声明は脳が処理しやすく、真実と誤認される）が組み合わさることで、モデルの説得力は大幅に高まる。知的刺激に浸るあまり、自己疑問を省みず、自身の能力や判断を過信し、高リスクな状況で誤った決定を下す危険性がある。

著者は「思考パートナー」という概念自体には可能性を認める——例えば、対抗的なプロンプトを用いて極端な意見を持つ人々の信念を調整したり、単に問題を言語化するだけで助けになる「ラバーダッキング」効果など。しかし、現在の無料・有料製品のデフォルト設定では、ユーザーが結果に疑問を持ち挑戦するよう促す仕組みが欠けている。ラボは機能やプロンプトのトレーニングを公開するが、モデル使用時に批判的思考を維持する方法については教えていない。

最後に著者は、AIラボと規制当局が認知的保護を改善するまでは、このユースケースを慎重に利用するよう勧める。能動的に反論しバランスを取る努力は時間と労力を要し、会話が深まるほど難しくなる。彼女は読者にこう呼びかける。「どんなに摩擦を加えても、あなたは依然として誤りを犯しうる人間です。モデルに警戒し、泡風呂を慎重に楽しんでください。」