選べる二つのAI未来
記事は、安全なAIの未来に関する二つの対照的なビジョン、すなわち単一の超強力ASIによるシングルトン（Singleton）と、多数のAIへの民主的アクセスがある多元（Plural）を探る。著者は歴史が多元社会を支持し、権力の過度な集中を避けつつ、分散システムの混沌としたが回復力のある性質を受け入れると主張する。
本記事では、安全なAI未来に関する二つの対照的なビジョン、すなわちシングルトン（Singleton）と多元（Plural）を考察する。シングルトンの世界では、単一の超強力なASIが最も信頼できる人々によって設計・構築され、安全はその完全な設計と人間の繁栄への適合に依存する。一方、多元の世界では、広範で民主化された多数のAIモデルへのアクセスが行われ、安全は数十億人のエンパワーメント、分散システムの回復力、そして分散能力の相互牽制から生まれる。
歴史はシングルトン世界における人間の幸福や自由に対して楽観的ではない。多元社会こそが時代を超えて回復力を示し、人々の幸福と自由を最も推進してきた。AIは非常に強力な技術であるため多元世界のリスクを負う余裕はないとの主張もあるが、立証責任はその側にある。極めて強力な証拠（単なる仮説ではない）がない限り、多元世界を支持するのが賢明である。
多元AI世界は混乱し不完全だろう——民主主義のように。AIに関連する事故、悪意ある使用、意図しない副作用が生じるだろう。これは印刷機からインターネット、携帯電話に至るまで、過去のあらゆる技術で見られたことだ。そしてそれらの圧倒的多数は、総体として私たちの生活を改善してきた。最も重要なのは、この混乱し不完全で時に危険な多元世界が、前世紀の最大の惨劇の原因——個人、政府、集団への権力の過度な集中——を回避することだ。
AIのリスクは明白なものから仮説的なものまでスペクトラムをなす。暴走AIへの恐怖は、シングルトン世界が最も安全だと心から信じる人々を動機付ける。しかしその恐怖は主に、証明されていない多くの仮定に基づく思考実験や仮説から引き出されている。一方、権力過度集中への恐怖は一世紀以上の歴史に基づいている。多元AI世界は、専制と技術の不吉な組み合わせから私たちを最もよく守るものである。