AIは人間ではない。人間のように語るのはやめよう

フィリップ・K・ディックが『アンドロイドは電気羊の夢を見るか？』で提起した問い——ロボットは夢を見るか——は、現在の人工知能をめぐる議論の核心にある。もしロボットが夢を見るなら、それは機械化された行動パターンだけでなく、言葉にされることのない私的な思考や感情を持つ内面世界があることを意味する。Anthropic社が今週、大規模言語モデルClaudeが「頭の中で静かに推論ステップを実行できる」と発表したことは、多くの人々に機械が生きているのではないかという懸念を引き起こした。

しかし、Anthropicの研究チームが実際に発見したのは、はるかにセンセーショナルではないが、それでも完全に魅力的なものだった。彼らが発表した論文によれば、Claudeは特定のコードを対象化して展開することで、人間のユーザーに見える言葉に変換せずにプロンプトに応答できる。例えば、Claudeのチャットボットに「太陽系で4番目の惑星は何色ですか？」と尋ねると、「赤」と答えるが、その惑星を「火星」と明示することはない。しかしClaudeは「火星」という概念に対応する数値の塊を持っており、同じ数値の塊は「ローマの軍神にちなんで名付けられた惑星はどれですか？」という質問にも使われる。この内部表現は、意識的な思考ではなく、効率的な計算の結果である。

筆者のスペンサー・クラヴァン氏は、The Free Pressの記事で、これはAIが意識や内面的経験を持つ証拠ではないと強調する。彼は、人間が機械を擬人化する傾向があるが、そのような類推は危険だと指摘する。「人々が機械を人間と見なし始めるのは、人間を機械と見なし始めたときだ」とクラヴァン氏は書いている。彼は、AIの内部コードを人間の意識と混同することで、私たち自身の独自性の理解が曖昧になることを警告する。

記事はディックの小説の哲学的問いを振り返り、現代のAIの実際の動作と対比させる。Claudeの「内部推論」は、実際にはより効率的な計算モードであり、意識的な思考プロセスではない。研究チームはモデルの重みを分析することで、Claudeが特定の質問に答える際に、特定の概念に関連する潜在的な表現を活性化することを発見したが、それは主観的な経験と同等ではない。

最終的にクラヴァン氏は、読者に冷静さを保つよう呼びかける。AIの能力は驚くべきものだが、それは依然として道具であり、感覚を持つ生命ではない。私たちは技術の進歩を評価しつつ、過度な擬人化がもたらす誤解に警戒すべきである。彼が言うように、機械を人間と見なすことは、最終的に人間を機械と見なすことにつながり、人間の独自性への尊重を弱める可能性がある。