AI News HubLIVE
サイト内リライト6 分で読了

AIは私たちを愚かにしているのか?

本記事は、生成AIが認知能力に与える影響を調査し、過度の依存が批判的思考、創造性、粘り強さを弱める可能性を示す研究を紹介する。専門家は、AIは計算機やGoogleと異なり、思考そのものを代行する初めてのツールであり、長期的な影響は未知数だと警告。短期的な研究ではAI使用後のスキル低下が確認されており、意識的に人間の能力を維持する必要性を訴える。

ソースHacker News AI著者: amichail

我が家は、何が起こるべきかだけでなく、何が起こったかについても議論するのが自然な状態だ。子供の頃、祖父母がようやく家にインターネットを引くまでは、百科事典が唯一の争い解決手段だった。百科事典発行後に起こった出来事についての議論は、多くが未解決のまま終わった。その後、Googleが普及した。情報へのアクセスは、数秒で分かることと何ヶ月も考えなければならないことの隔たりを埋めただけでなく、世界の記憶方法を変えた。研究者はこれを「Google効果」と呼んだ。人々は、情報そのものよりも、その情報を再び見つける方法をよりよく覚えていることが分かった。2011年の論文で研究者は「私たちはコンピューターツールと共生し、情報を知ることよりも、情報が見つかる場所を知ることによって記憶する相互接続システムになりつつある」と記した。一部は、Googleへの認知オフロードが「私たちを愚かにしている」と懸念し、別の意見はGoogleが情報へのアクセスを民主化し、図書館で何時間も過ごす代わりに思考力を高められると主張した。生成AIが私たちの脳に与える影響に関する初期の研究で、同じ論点が再浮上している。AIへの過度の依存は、精神的な粘り強さを弱め、創造性を平坦にし、批判的思考力を萎縮させ、人間関係を劣化させるというものだ。私が話を聞いた機械学習、創造性、社会行動の専門家は、過去の革新から多少の洞察を得られるが、AIの包括的な浸透には類例がないと述べた。MITの研究者であるNataliya Kosmyna氏は、AIは過去の革新よりも脳に大きなリスクをもたらす可能性があるとし、「このツールは本質的に完全に異なる」と指摘する。同氏は昨年、生成AIを使ってエッセイを書いた人々が、Googleを使った場合や補助なしの場合よりも時間の経過とともにパフォーマンスが低下したことを示す、最も広く引用された研究の1つを発表した。Kosmyna氏は、Sam Altman氏も使う「AIは計算機のようなもの」という類推は誤りだと言う。「計算機を持って眠りにつき、起きても計算機を持っているわけではない。頭の中にあるすべてを計算機に話しかけることはない。」AIが生活のあらゆる側面に統合されれば、私たちの考え方は変わる。問題は、その変化がどれほど永続的かである。革新は常に、脳が悪い方向に書き換えられるという恐怖を呼び起こしてきた。ソクラテスは文字が記憶を薄めると心配し、電報が詩を終わらせると主張する者もいた。計算機は暗算能力を萎縮させるとされた。しかし、これらのいずれも破滅的な形では起こらなかった。しかし、徐々に、一つの技術そのものではなく、スマートフォンの普及、より緩やかな採点方針、学校資金不足など、数十年にわたる波の変化によって影響が現れた。詩を読む人は10%未満であり、詩は1800年代の全盛期から衰退している。全米教育進歩評価の12年生のテスト結果によると、少なくとも基礎的な数学能力を持つ生徒の割合は2013年のピークから低下している。執筆は認知オフロードの初期の例の1つであり、すべてを記憶しなくて済むように記録を作成するものだった。しかし、AIは進化というより大爆発に近い。経験豊富な労働者はどのタスクをAIに任せられるかを考え、教育者や雇用者は若者がスキルを開発する機会を逃すのではないかと心配している。数十年にわたってコーディングした後にAIが作業をどう強化するかを理解することと、単に「バイブコーディング」を学ぶことには違いがある。ペンシルベニア大学ウォートンスクールの研究者は、トルコの高校生1,000人に生成AI数学チューターを提供した。一方は標準的なChatGPTを模倣し、もう一方はより多くのガードレールを持ち、直接答えの代わりにヒントを与え、教師からの問題固有の情報(練習問題の正解やよくある間違いの説明)も提供した。生徒は両方のツールでより良い成績を収めたが、ツールを取り除かれたとき、標準的なChatGPTのようなツールを使用していた生徒は、AIにアクセスしたことがない生徒よりも成績が悪かった。同様のことは、GPSが個人のナビゲーターになったときにも起きた。2020年のマギル大学の研究では、人々がGPSに依存すればするほど、GPSなしでナビゲートする必要があるときの空間記憶が悪化することが分かった。3年後の追跡調査では、GPS使用の増加が空間記憶のさらに急激な低下につながっていることが判明した。これは、AI以前に学校や初期のキャリアを終えた人々が無傷であることを意味しない。創造性と認知には継続的な練習が必要である。1971年の研究では、パイロットは4ヶ月飛行しなくても計器の走査や操縦などの手と目の協調スキルを維持できるが、同じ期間に認知スキルは低下し、手順の記憶と追跡、機体の位置の視覚化、暗算に苦労することが分かった。人々が特定のスキルを最初から学ばなければ、それらのスキルは社会から衰退し、趣味のようになる可能性がある。「若者が批判的思考を決して学ばないリスクは高い。AIが代わりに考える便利さがあるため、その能力を発展させられないかもしれない」と、スイスビジネススクールの戦略的企業先見性・持続可能性センター長Michael Gerlich氏は言う。便利な逃げ道がある場合、AIは困難に直面したときに私たちをより脆弱にする。2026年4月のプレプリント研究では、研究者が被験者に分数の問題を与えた。一方のグループは、12問のうち最小限のプロンプトで答えを提供できるAIアシスタントを使用したが、最後の3問は自分で答える必要があった。AIにアクセスできたグループは、15問すべてにAIアクセスがなかった対照群よりも最初の12問を解く可能性が高かった。しかし、最後の3問を正しく解く可能性は低く、問題をスキップする可能性が高かった。この結果は、AIを使用した人々が困難に直面したときに粘り強く取り組む傾向が低く、その変化がわずか10分間の使用後に起こったことを示唆している。「メンターや仲間は単に質問に答えるだけでなく、学習を足場かけし、進捗を追跡し、即時の結果よりも相手の成長を優先する」と著者らは書いている。「対照的に、現在のAIシステムは根本的に近視眼的な協力者であり、即時的かつ完全な応答を提供するために最適化されており、決して『ノー』と言わない。」この発見は憂慮すべきだが、研究の著者であるカーネギーメロン大学の機械学習博士課程候補Grace Liu氏は、この小規模研究が多量のAI使用後に脳が変化する方法について何を意味するかはまだ分からないと言う。「10分の使用で長期的な脳の衰退が起こることは決してない。長期間繰り返し使用した場合に認知面で何が起こるかは未解決の疑問であり、それを調査するには縦断研究が必要だ。」ジョージタウン大学の研究者は、ChatGPTの登場が創造性にどのように影響するかを調査した。ChatGPTの人気上昇前後の37万以上の大学出願エッセイを分析したところ、人間が書いたエッセイはAI支援エッセイよりも新しいアイデアが多かったが、AIエッセイはより独自の言語を使用していた。AIが単一のエッセイでより創造的な言語使用につながる一方で、その使用はグループ全体の創造性を鈍らせる可能性がある。エッセイ研究に携わったジョージタウン大学関係認知研究室長Adam Green氏は、AIは過去の近道とは異なり、私たちのためにアイデアを考える最初の技術だと述べる。「Googleは私が考えたものを見つける手助けをするが、AIはそれを見つけることを考える。」AIが脳に与える累積的な影響に関する強固なデータを得るには時期尚早であり、専門家はより多くの長期研究の必要性を強調する(研究は非常に新しく、多くはまだ査読を受けていない)。執筆、コーディング、複雑な数学を既に知っている人でも、時間の経過とともに能力を失う可能性がある。「人間が獲得したあらゆるスキルは維持され、再訓練される必要がある」とKosmyna氏は言う。これまでに発表された研究は小規模だが、私たちが実験を生きている間、それぞれが小さな警鐘を鳴らしている。専門家は慎重にAIに脳をさらしている。最善の方法は、「認知効果を認識し、独立して維持したいスキルと、外部委託して問題ないスキルを選択できるようにすること」だとLiu氏は言う。Green氏は白紙のページを尊重する必要があると言う。「私が本当に心配しているのは、練習を通じて発展させる創造的思考、創造的知性だ。思考を代行させてくれるこのようなツールはかつてなかった。」Kosmyna氏は、自分の私生活では「誇らしげに」大規模言語モデルを使わず、自分が構築するAIツールは研究に限定していると述べる。Googleを取り巻く楽観論にもかかわらず、私たちはより賢くも、深い仕事のための自由も得なかった。仕事と家庭の境界は曖昧になり、インターネットの出現以来、多くの人が長時間労働するようになった。IQスコアは20世紀を通じて10年ごとに約3ポイント上昇した。しかし、2006年から2018年の間にいくつかのカテゴリでスコアが低下し、最も急激な低下は18〜22歳(最もデジタルネイティブな成人層)で見られた。注意力の持続時間は短くなり、人々はオンラインで異なるコンテンツを行き来している。しかし、研究者はこれは神経学的変化ではなく習慣の変化であり、注意をそらすものを取り除けば再び集中力を訓練できると示唆している。AIについて私たちが知っていることは、Google効果のようにすっきりとまとまらない。それはAIが私たちの生活に触れる広大な範囲を示している。しかし、それと並行して創造性、批判的思考、粘り強さを守ることが次の課題になることは確かだ。