AIは全体主義を促進するか？
本稿では、人工知能が中央集権型統治と分権型統治のバランスをどのように変え、全体主義の台頭を促進する可能性があるかを考察する。歴史的に通信技術が独裁体制を強化した例を振り返り、ハイエクの知識問題やセレクター理論などの構造的メカニズムを分析。AIによる情報処理、監視、プロパガンダのコスト低下が、民主主義と独裁の間のパフォーマンス格差を縮小する可能性を論じる。
記事インテリジェンス
要点
- AIは中央集権的な情報処理と監視能力を強化し、独裁統治のコストを低下させる。
- ナチス・ドイツのラジオやIBMの集計機、東ドイツの監視体制など、歴史的に技術は統制に利用されてきた。
- AIが価格シグナルを模倣し、資源配分を最適化できれば、ハイエクの中央計画批判を克服し、計画経済の実現可能性が高まる。
- セレクター理論によれば、AIは労働力への依存を減らし、小規模な支配連合の維持を容易にする。
重要な理由
このニュースが重要なのは、AIは中央集権的な情報処理と監視能力を強化し、独裁統治のコストを低下させるためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
近年、AIリスクの議論は人類滅亡の脅威に焦点が当てられがちだが、より身近で重要なリスクとして、AIが新たな全体主義を促進する可能性がある。歴史的に見ると、通信・官僚技術の進歩はより大規模で強力な国家を生み出してきた。20世紀前半、ナチス政権はラジオとIBMのパンチカード集計システムを利用してプロパガンダと人口監視を行い、東ドイツのシュタージは膨大なファイルと盗聴で反対意見を封殺した。一方、印刷技術は宗教改革を、インターネットはアラブの春を支援し、自由を拡大した。問題は、AIが中央集権を強化するか、分権を促進するかである。
本稿は複数の構造的メカニズムを分析する。まず、情報処理に関して、ハイエクとスコットの理論は中央計画者が分散した局所知識を扱えないことを指摘する。スコットは『国家的視点』で、国家が簡略化されたモデルで社会を「読みやすく」するが、それが地域の適応的知識を抑圧すると論じた。ソ連の農業集団化はその例で、中央の強制が現地の条件を無視し、飢饉を引き起こした。ハイエクは市場が価格シグナルを通じて分散知識を調整すると主張した。しかし、ソ連の経済学者カントロヴィチは1930年代に線形計画法を開発し、中央計画者が最適化アルゴリズムで資源を効率的に配分できることを示したが、当時の計算能力では実現できなかった。現代のAIは膨大なリアルタイムデータを処理し、価格シグナルを模倣できる可能性がある。もしAIが市場よりも速くモデルを更新できれば、中央計画の経済効率は市場に近づき、独裁政権の経済的実現可能性が高まる。
次に、セレクター理論（Bueno de Mesquitaら）は、独裁者が小規模な連合で権力を維持できる理由を説明する。民主主義では指導者は公共財を提供して大規模な有権者を満足させる必要があるが、独裁では少数のエリートに私的財を与えればよい。富の創造に広範な労働力が必要な場合、指導者は教育や医療などの公共財を提供せざるを得ず、連合は大きくなる。しかし、AIによる自動化と監視は労働力への依存を減らし、独裁者が小規模連合で統治することを容易にする。これは資源の呪いと類似している。
さらに、AIは大規模監視、精密なプロパガンダ、ロボット軍団による強制力を実現し、独裁のコストを下げる。同時に、政府が反対運動を予測して抑圧する能力を高め、市民の調整能力を弱める可能性がある。本稿では他にも調整非対称性や透明性などの要因を挙げているが、全体的な傾向としてAIは集権化を強化する可能性が高い。分散型イノベーションや合意形成などの反対勢力も存在するが、歴史的に独裁は長期的に民主主義に敗れてきた。AIがそのバランスを変えるかもしれない。この分析は警鐘であり、技術が政治組織に与える影響を注視する必要がある。