社会技術としてのAI

社会技術としてのAI

人工知能をめぐる議論の多くは、1990年代のSFに起源を持つ「特異点」という概念に影響を受け続けている。本稿は、このSFに根ざした物語——AIが人間の知能を急速に超え、独自の利益と目標を持つ超知能へと進化するという考え方——が、技術発展の実際の複雑さを覆い隠していると指摘する。著者らは、大規模言語モデル（LLM）は汎用人工知能への「賢者の石」ではなく、図書館や言語、市場や官僚制と類似した社会技術であり、その本質は人間間の社会的関係を再編成することにあると主張する。

LLMは、人間の言語データの大規模集合を処理することで、ユーザーと訓練データの作者との間に、機械を介した社会的関係を創り出す。この関係は全く新しいものではなく、近代生活におけるありふれた媒介関係の延長線上にある。しかし、この媒介の錯覚は、ユーザーに自分が機械とのみ対話していると思わせ、背後に多数の人間の作者が存在することを見えにくくする。著者らは、この理解が、AIが自律的な意識や意図を持つという神話を打破する鍵であると強調する。

著者らはAIを「長い産業革命」の歴史的文脈に位置づける。この革命は200年前に始まり、今も続いている。特異点理論が描く急激な変革とは異なり、産業革命の歴史は技術変化が混乱に満ち、多様で予測不可能であることを示している。同様に、AIの社会的影響も単一で決定的なものではなく、官僚制、市場、民主主義といった既存の社会技術との衝突を通じて複雑な結果を生み出すだろう。

本稿は特に、ハーバート・サイモンの「人工の科学」の思想を活用する。サイモンは、AI、経済、行政、政治システムをすべて「複雑な情報処理」の一形態と見なした。これらは、複雑な現実を扱いやすい「粗視化」（coarse-graining）へと圧縮することで機能する。官僚制はその典型であり、複雑な社会関係をルールやカテゴリーに単純化して大規模な調整を可能にする。AIは新たな粗視化技術として、これらの既存の抽象システムと相互作用し、強化、再形成、または置き換えを引き起こす。

著者らは、汎用人工知能が間近に迫っているという予言が実際の政策に影響を与えていることに警鐘を鳴らす。例えば、トランプ政権による行政機関の大幅な削減は、AIの能力に対する過度な楽観に基づいている。しかし、本当に必要なのは、AIがもたらす複雑な社会問題に目を向けることである。AIは万能の錬金術ではなく、人間の長い技術進化の最新の一環に過ぎない。その影響を理解するためには、社会科学とコンピュータ科学の協力がかつてなく緊急に求められている。

結論として、本稿は特異点神話を捨て、より現実的で詳細な方法でAIの社会的影響を研究することを提唱する。AIは、過去の社会技術がそうであったように、一部の問題を緩和し、他の問題を悪化させ、新たな課題を生み出すだろう。この複雑な現実に向き合うためには、学際的な取り組みが不可欠である。