人工知能による人間知能の拡張

現代のAIシステムは、エッセイを書き、コードを生成し、複雑なアイデアを要約し、驚くほど流暢に会話を続けることができます。しかし、それらは人間が直感的に行うタスク、例えば変化を通じて物体を確実に追跡したり、未知の状況で合成的に推論したり、真実と虚構を区別したりすることに依然として苦労しています。これらの矛盾は、AIをめぐる二極化した議論を煽っています。一部は現在のシステムを人間のような知能の初期形態と見なし、他方は高度なオートコンプリートと見なしています。

最近の学際的研究（アダム・フランク、マルセロ・グレイザー、エヴァン・トンプソンの『ブラインド・スポット』や、DeepMind研究者アレクサンダー・レルヒナーの『抽象化の誤謬』を含む）では、別の構図が浮かび上がっています。これらのアプローチは、AIシステムが人間の意味で知的になりつつあるかどうかを問うのではなく、より基本的な問いを投げかけます：AIシステムが機能するのは、人間の認知に根ざした構造に依存しているからではないか？ この視点の転換は、エドムント・フッサールの現象学に基づき、現代AIの能力と限界の両方を理解する助けとなります。

私たちの最近の論文『自然知能における人工知能の起源』では、現代のAIシステムは人間の心でもなければ、些細な統計的トリックでもないと主張しています。代わりに、それらは人間の認知自体に起源を持つ構造を拡張します。フッサールの現象学をさらに応用し、言語にはすでに人間の理解の沈殿した構造が含まれており、AIシステムはそれらの構造を学習し、拡張することを提案します。この視点は、現代AIの能力と限界の両方を説明します。

人間の知覚は、感覚データを受動的に受け取るだけではありません。私たちは世界を、変化を通じて展開する安定したものとして経験します：コップは、その周りを動いても同じコップのままです；メロディーは、個々の音符が過ぎ去っても認識可能です。言語は、これらの安定した構造を概念的な形で表現することによって現れます。「赤い」、「丸い」、「より大きい」といった言葉は、生きた経験に由来する関係を明確にします。

大規模言語モデルは、この言語世界内の統計的関係を学習します。それらは、膨大な人間の書き物の中で概念がどのように関連し合う傾向があるかを捉えます。これは、AIシステムが多くの領域で首尾一貫した応答を生成できる理由を説明します。しかし、なぜ幻覚を起こすかも説明します。人間は世界に対して応答可能であり続けます：経験が絶えず私たちの期待や信念を修正します。対照的に、AIシステムはテキスト内のパターンを拡張するだけです。流暢に推論のラインを続けることはできますが、意味と真実を固定する世界との生きた関わりを欠いています。

AIは人間の認知を拡張する

この枠組みは、AI研究で繰り返し現れるいくつかの課題を説明するのに役立ちます。一つは「構成性ギャップ」—言語モデルが慣れた推論パターンではうまく機能する一方、概念を真に斬新な方法で組み合わせるよう要求されると失敗する傾向です。研究により、大規模モデルは流暢さと事実想起の改善が、真の構成推論の改善よりもはるかに速いことが示されています。私たちの視点からは、これは単なる工学的限界ではなく、構造的な境界です：AIシステムは言語にすでに沈殿したパターンを拡張できますが、人間が真に新しい概念関係を生成することを可能にする世界指向の理解を持っていません。

同様のパターンは、言語と視覚を組み合わせたマルチモーダルシステムにも現れます。これらのシステムは画像を正しくラベル付けできることが多い一方、物体とその部分についての頑健な推論は依然として失敗します。それらは、人間が時間を通じて展開する安定した物体を知覚するのではなく、視覚パターンと言語の間の相関を学習します。結果として、外見は印象的に流暢でありながら、慣れたパターンの外では驚くほど脆いシステムが生まれます。

この視点は、AI安全性に関する議論も再構成します。公の議論は、「暴走超知能」の恐怖と、AIはほとんど重大なリスクをもたらさないという主張の間を揺れ動くことがよくあります。私たちの研究は、両極端が現在のシステムの性質を誤解していることを示唆します。最も直接的なリスクは、AIが人間のような意図を持つからではなく、世界に対する反省的な責任なしに推論のパターンを拡張できるから生じます。システムは、説得力があるが根拠のない出力を生成し、欠陥のある決定を大規模に自動化し、または統治の悪い環境に埋め込まれた場合に有害な行動を実行することができます。

これは、AI安全性がますますモデル安全性からシステム安全性へと移行している理由を説明します。実際には、組織は既に階層的な安全策（業界で「ハーネス」と呼ばれることが増えている）に依存して、AIの動作を制約、検証、監視しています。私たちの論文は、これらのメカニズムは一時的なパッチではなく、AIアーキテクチャの根本的な性質を反映していると主張します：信頼できる動作は、AIシステムの構築者（その動作に責任を負う）の作業から生じ、その責任をモデルに委任したり共有したりすることはできません。

この解釈は、企業が信頼できるAI展開に取り組む方法とよく一致しています。組織は、人間の知能を拡張しつつ、統制可能で、監査可能で、人間の監督と整合するシステムを必要とします。AIを派生した知能の形式として理解することは、なぜ階層的なガバナンス、評価、運用管理が非常に重要であるかを明確にします。

将来を見据えて、現象学はAIへの批判以上のものを提供すると考えます—それはその約束を理解するための枠組みを提供します。AIシステムは、人間の認知自体についての深遠な何かを明らかにします：意味が強力な新しい方法で形式化、拡張、スケール化できるということです。したがって、AIの中心的な社会的リスクは、その起源である人間の経験と認知のはしごを蹴り飛ばすことであることがわかります—AIを私たちの人間性を減少させる競合する知能として誤解し、それによってAI自体の真の約束を減少させるのです。

問題は、AIが人間の知能を置き換えるかどうかではありません。問題は、人間の理解を拡張しつつ、その理解が生じる世界に根ざし続けるシステムを、どのように責任を持って構築するかです。AIシステムを自律的な心と誤解すれば、過信するリスクがあります。それらを些細なトリックと退ければ、私たちの時代の最も重要な技術的発展の一つを見過ごすリスクがあります。より地に足のついた解釈は、両方の真実を同時に認識します：AIは人間の知能の真の拡張であり—そしてまさにその理由から、人間がそれをどのように理解し、統治し、使用するかについて責任を負い続けるのです。