两个可供选择的人工智能未来
文章探讨了人工智能安全的两种愿景：单例（Singleton）与多元（Plural）。单例世界由一个超级AI集中控制，安全依赖于完美设计；多元世界则通过广泛民主化的AI访问实现安全，依靠分布式系统的韧性与制衡。作者基于历史证据，主张多元世界更能保障人类福祉与自由，尽管它可能混乱不完美，但避免了权力过度集中的风险。
本文探讨了人工智能安全的两种截然不同的愿景：单例（Singleton）与多元（Plural）。在单例世界中，一个单一的超强人工智能（ASI）由最值得信赖的人设计并首先构建，安全依赖于其完美的设计与对齐，确保其完全符合人类福祉并具有内在安全性。而在多元世界中，绝大多数人都能广泛、民主地访问多种AI模型，安全来自数十亿人的赋权、去中心化系统的韧性以及分布式能力的制衡。作者明确表示，历史并不支持单例世界对人类福祉与自由的乐观预期。相反，多元社会已被证明更具韧性，并且最能为人民带来福祉与自由。有些人认为AI技术过于强大，无法承担多元世界的风险，但举证责任在他们一方。在缺乏极强证据（而不仅仅是假设）的情况下，我们理应支持多元世界。
多元AI世界将充满混乱与不完美——就像民主一样。它不可避免地会带来事故、恶意使用和意想不到的副作用。然而，每一种过去的技术，从印刷术到互联网和手机，都曾经历过类似的问题。但绝大多数技术总体上改善了我们的生活。最重要的是，这个混乱、不完美、有时危险的多元世界避免了上世纪一些重大灾难的根源——权力在个人、政府或团体手中的过度集中。
AI的风险谱系从显而易见到纯属假设。对AI失控的恐惧促使一些人真诚相信单例世界最安全。但这种恐惧大多来源于思维实验和基于一系列未经验证假设的假设。而对权力过度集中的恐惧则基于一个多世纪的历史。多元AI世界最能保护我们免受暴政与技术结合的危险。综上所述，作者呼吁在缺乏强有力证据的情况下，应选择多元而非单例的未来。