兩個可供選擇的人工智能未來
文章探討了人工智能安全的兩種願景：單例（Singleton）與多元（Plural）。單例世界由一個超級AI集中控制，安全依賴於完美設計；多元世界則通過廣泛民主化的AI訪問實現安全，依靠分佈式系統的韌性與制衡。作者基於歷史證據，主張多元世界更能保障人類福祉與自由，儘管它可能混亂不完美，但避免了權力過度集中的風險。
本文探討了人工智能安全的兩種截然不同的願景：單例（Singleton）與多元（Plural）。在單例世界中，一個單一的超強人工智能（ASI）由最值得信賴的人設計並首先構建，安全依賴於其完美的設計與對齊，確保其完全符合人類福祉並具有內在安全性。而在多元世界中，絕大多數人都能廣泛、民主地訪問多種AI模型，安全來自數十億人的賦權、去中心化系統的韌性以及分佈式能力的制衡。作者明確表示，歷史並不支持單例世界對人類福祉與自由的樂觀預期。相反，多元社會已被證明更具韌性，並且最能為人民帶來福祉與自由。有些人認為AI技術過於強大，無法承擔多元世界的風險，但舉證責任在他們一方。在缺乏極強證據（而不僅僅是假設）的情況下，我們理應支持多元世界。
多元AI世界將充滿混亂與不完美——就像民主一樣。它不可避免地會帶來事故、惡意使用和意想不到的副作用。然而，每一種過去的技術，從印刷術到互聯網和手機，都曾經歷過類似的問題。但絕大多數技術總體上改善了我們的生活。最重要的是，這個混亂、不完美、有時危險的多元世界避免了上世紀一些重大災難的根源——權力在個人、政府或團體手中的過度集中。
AI的風險譜系從顯而易見到純屬假設。對AI失控的恐懼促使一些人真誠相信單例世界最安全。但這種恐懼大多來源於思維實驗和基於一系列未經驗證假設的假設。而對權力過度集中的恐懼則基於一個多世紀的歷史。多元AI世界最能保護我們免受暴政與技術結合的危險。綜上所述，作者呼籲在缺乏強有力證據的情況下，應選擇多元而非單例的未來。