人工智能会助长极权主义吗？
本文探讨了人工智能可能如何改变中央集权与分权治理之间的权衡，从而增加极权主义出现的可能性。文章回顾了历史上通信和官僚技术对极权统治的促进作用，并分析了AI在信息处理、监控、宣传和军事能力方面的进步如何可能使独裁政体更有效，甚至缩小民主与专制之间的经济绩效差距。
文章情报
要点
- AI可能通过增强中央信息处理和监控能力，降低独裁统治的成本。
- 历史上如纳粹德国和东德利用技术实现控制，而印刷术和互联网曾促进自由。
- 哈耶克的知識问题和斯科特的“可读性”理论表明，AI可能使中央计划者更高效，削弱市场优势。
- 选择者理论指出，AI可能减少对广泛劳动力的需求，使小型联盟更易维持权力。
为什么重要
这条新闻值得关注，因为AI可能通过增强中央信息处理和监控能力，降低独裁统治的成本。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
近年来，关于人工智能风险的讨论多集中在人类面临的生存威胁上，但更常见且同样值得关注的风险是，AI可能催生新一轮极权主义。历史表明，通信和官僚技术的进步往往催生更大、更有控制力的国家。20世纪上半叶，纳粹德国利用广播和IBM的打卡制表系统进行宣传和人口监控，东德斯塔西则通过庞大的档案和监控网络压制异议。然而，印刷术和互联网也曾促进自由，如宗教改革和阿拉伯之春。关键问题是：AI将强化中央集权还是分权结构？
文章从多个结构性机制分析。首先，在信息处理方面，哈耶克和斯科特的经典理论指出，中央计划者因无法获取分散的本地知识而效率低下。斯科特在《国家的视角》中强调，国家通过简化和标准化的模型使社会“可读”，但这样会压制本地适应性的知识。苏联农业集体化就是一个典型例子，国家强加的集体农庄模式忽视了当地条件，导致大面积饥荒。哈耶克则指出，市场通过价格信号协调分散的知识，而中央计划无法复制这一过程。然而，苏联经济学家康托罗维奇在20世纪30年代提出了线性规划理论，认为中央计划者可以通过优化算法高效分配资源，只是当时计算能力不足。现代AI具备处理海量实时数据的能力，可能模拟价格信号，从而克服哈耶克的批评。如果AI能够比市场更快地更新模型，那么中央计划的经济效率可能接近甚至超过市场，这将缩小民主与专制之间的经济差距。
其次，选择者理论（Bueno de Mesquita等）解释了为何独裁者能通过小规模联盟维持权力。在民主国家，领导者需要提供公共物品来满足庞大的选民；而在专制国家，只需用私人物品收买少数精英。当财富创造依赖广泛劳动力时，领导者必须提供教育、医疗等公共物品，从而扩大联盟。但AI驱动的自动化和监控可能减少对劳动力的需求，使独裁者更容易通过小规模联盟统治。这类似于资源诅咒，即自然资源丰富的国家可以不必依赖税收而维持独裁。
此外，AI还能实现大规模监控、精准宣传和可靠的武力控制（如机器人军队），降低独裁的监控和强制成本。同时，它可能削弱公民的协调能力，因为政府可以预测并压制反对运动。文章还列出了其他相关因素，如协调不对称、透明度和审计能力等，但整体趋势表明AI很可能增强集权倾向。尽管也存在分布式创新和共识形成等反制力量，但历史经验显示，极权政权在长期竞争中往往失败，而AI可能改变这一格局。这一分析并非定论，而是提醒我们关注技术对政治组织的深远影响。