人工智慧會助長極權主義嗎？
本文探討了人工智慧可能如何改變中央集權與分權治理之間的權衡，從而增加極權主義出現的可能性。文章回顧了歷史上通訊和官僚技術對極權統治的促進作用，並分析了AI在資訊處理、監控、宣傳和軍事能力方面的進步如何可能使獨裁政體更有效，甚至縮小民主與專制之間的經濟績效差距。
文章情報
要點
- AI可能透過增強中央資訊處理和監控能力，降低獨裁統治的成本。
- 歷史上如納粹德國和東德利用技術實現控制，而印刷術和網際網路曾促進自由。
- 哈耶克的知識問題和斯科特的“可讀性”理論表明，AI可能使中央計劃者更高效，削弱市場優勢。
- 選擇者理論指出，AI可能減少對廣泛勞動力的需求，使小型聯盟更易維持權力。
為什麼重要
這條新聞值得關注，因為AI可能透過增強中央資訊處理和監控能力，降低獨裁統治的成本。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
近年來，關於人工智慧風險的討論多集中在人類面臨的生存威脅上，但更常見且同樣值得關注的風險是，AI可能催生新一輪極權主義。歷史表明，通訊和官僚技術的進步往往催生更大、更有控制力的國家。20世紀上半葉，納粹德國利用廣播和IBM的打卡製表系統進行宣傳和人口監控，東德斯塔西則透過龐大的檔案和監控網路壓制異議。然而，印刷術和網際網路也曾促進自由，如宗教改革和阿拉伯之春。關鍵問題是：AI將強化中央集權還是分權結構？
文章從多個結構性機制分析。首先，在資訊處理方面，哈耶克和斯科特的經典理論指出，中央計劃者因無法獲取分散的本地知識而效率低下。斯科特在《國家的視角》中強調，國家透過簡化和標準化的模型使社會“可讀”，但這樣會壓制本地適應性的知識。蘇聯農業集體化就是一個典型例子，國家強加的集體農莊模式忽視了當地條件，導致大面積饑荒。哈耶克則指出，市場透過價格訊號協調分散的知識，而中央計劃無法複製這一過程。然而，蘇聯經濟學家康託羅維奇在20世紀30年代提出了線性規劃理論，認為中央計劃者可以透過最佳化演算法高效分配資源，只是當時計算能力不足。現代AI具備處理海量即時資料的能力，可能模擬價格訊號，從而克服哈耶克的批評。如果AI能夠比市場更快地更新模型，那麼中央計劃的經濟效率可能接近甚至超過市場，這將縮小民主與專制之間的經濟差距。
其次，選擇者理論（Bueno de Mesquita等）解釋了為何獨裁者能透過小規模聯盟維持權力。在民主國家，領導者需要提供公共物品來滿足龐大的選民；而在專制國家，只需用私人物品收買少數精英。當財富創造依賴廣泛勞動力時，領導者必須提供教育、醫療等公共物品，從而擴大聯盟。但AI驅動的自動化和監控可能減少對勞動力的需求，使獨裁者更容易透過小規模聯盟統治。這類似於資源詛咒，即自然資源豐富的國家可以不必依賴稅收而維持獨裁。
此外，AI還能實現大規模監控、精準宣傳和可靠的武力控制（如機器人軍隊），降低獨裁的監控和強制成本。同時，它可能削弱公民的協調能力，因為政府可以預測並壓制反對運動。文章還列出了其他相關因素，如協調不對稱、透明度和審計能力等，但整體趨勢表明AI很可能增強集權傾向。儘管也存在分散式創新和共識形成等反制力量，但歷史經驗顯示，極權政權在長期競爭中往往失敗，而AI可能改變這一格局。這一分析並非定論，而是提醒我們關注技術對政治組織的深遠影響。