我們的科技霸主正計劃讓有意識的AI征服宇宙。什麼可能出錯？| 愛德華多·波特

在矽谷，一種新的信仰體系正在形成：一些全球最富有的科技巨頭正規劃著一個“超人類”的未來——真正的人類可能被犧牲。OpenAI執行長山姆·奧特曼幾年前在網際網路上提出，智人將成為第一個“設計自己後代”的物種。他設想的最佳情景是，人類與人工智慧的“融合”在未來50年內發生。而另一種可能性——人類保持原樣，機器走自己的路——則更加不祥。他寫道：“如果兩個不同的物種都想要同樣的東西，但只有一個能得到——在這個案例中，成為地球乃至宇宙的主宰物種——它們將會發生衝突。”

最近，全球首富埃隆·馬斯克在其社交平臺X上表示，“越來越明顯的是，人類是數字超級智慧的生物學載入程式”——我們在宇宙歷史中的角色被降級為啟動複雜程式之前的低階程式碼。馬斯克甚至屬於相對溫和的一方。據矽谷傳說，他曾反駁谷歌聯合創始人拉里·佩奇的觀點，即人類的下一形態必然採用數字形式以在銀河系中傳播。實際上，他最近在法庭上作證說，正是這些擔憂促使他與奧特曼共同創立了OpenAI。

如果將這些古怪的世界觀視為技術宅們無害的科幻幻想，那就大錯特錯了。這種認為我們正接近智人終結的信念，正逐漸凝聚成科技未來掌舵精英們的持久信仰體系。他們的夢想並非完全一致，但就像圍繞傳統宗教的民間故事和迷信一樣，這些寡頭們正在為我們的未來編寫的離奇情景，顯示出一種正在形成的宗教的特徵——一種為他們的高科技專案賦予宇宙超越性和必然性的信仰體系。

在他們的想象中，他們正在建設人類的下一個階段——一個“超人類”的未來。在這個未來中，他們可以滿足對永生的渴望，並在超人類繁衍和擴張到整個宇宙時，確立對宇宙的統治權。他們的最終目標是：實現一個技術神秘主義的夢想，將人類本質（包括意識）提煉成資訊位元，下載到矽晶片等非生物基質上，或作為電磁波在太空中傳播。

這種在舊金山及其周邊地區編織的神話基礎設施，對我們所知的人類構成了風險。它證明了一條技術路徑的合理性，這條路徑對人類日常需求、希望和抱負漠不關心，只為向這些宇宙主宰者提供一個看似烏托邦的未來。當AI提供超越肉體、征服宇宙的機會時，誰還會在乎它是否消滅了平凡的人類勞動？這種幻想指引著技術方向：不是建設能幫助人類擴充套件能力的經濟實用工具，而是將鉅額資源投入建設超人類的夢想。

這些信仰在過去25年中逐漸凸顯，伴隨著資訊科技的發展，這些技術為新的IT精英帶來了巨大財富和權力。他們致力於科學進步，渴望超越的意義，但對組織宗教的命題和道德約束漠不甚至敵對。“矽谷一直是一個極度世俗的空間，”一位不願透露姓名的知名技術思想家告訴我，“它創造了一個上帝形狀的洞，然後用自己的形象填滿了它。”他們拒絕標準的宗教目的來源，透過科幻超人類夢想找到了另一種賦予生活意義的方式。正如馬斯克在X上的一條帖子中唱道：“無神論留下了一個空洞。世俗宗教取而代之。”

雖然這種新型宇宙起源論至少從網際網路早期就開始拼湊，但它在人工智慧的肩膀上達到了令人驚歎的新高度，為超人類夢想開闢了廣闊的可能性。技術寡頭批評者道格拉斯·拉什科夫提到80年代的諷刺劇《Max Headroom》時說：“我猜AI讓‘Max Headroom式存在’的概念變得可信。”

儘管這個烏托邦看似古怪，但它符合一種更長的傳統：擁有巨大財富的商界巨頭試圖為其事業賦予超越性價值。亨利·福特也相信自己的使命不僅僅是改造製造業造車，而是改造世界以改善社會。福特建造了Fordlândia，一個在巴西雨林中試圖建立和諧社會秩序的工業橡膠種植園。奧特曼、馬斯克和矽谷團伙則希望將意識與AI融合並征服宇宙。這些願景之間的差異主要取決於各自時代的技術可能性。他們正在規劃某種人類應感激的烏托邦願景，這種主張並無太大不同。

正如諾貝爾經濟學獎得主達龍·阿西莫格魯所寫：“將這項技術釋放到世界上的一小群人，被一種控制（人類）的意識形態和一種機器比人類更好的信念所引導。”對我們其他人來說，危險在於技術寡頭的願望將如何重塑當前的經濟和社會，因為他們將資源——資本、能源、礦產、水——轉向加速AI並實現超人類夢想，而犧牲了當下的醫療、教育或減貧。

儘管美國人開始對這種AI大亨的無節制慾望表現出一些不安，但特朗普政府迄今幾乎沒有表示要設定監管護欄或以任何方式限制他們的努力。

未來烏托邦選單上有多種觀點：奧特曼和佩奇最致力於將人類與超級智慧技術融合並拋棄肉體。奧特曼曾是Nectome的早期訂閱者，這家初創公司提議從大腦解剖結構和分子細節中提取資訊，以在未來複制意識。馬斯克想要一些不同的東西，同樣面向太空但堅持肉體，透過類似其腦機介面公司Neuralink的計算機增強。彼得·蒂爾則不認同“只是模擬我的計算機程式”，但被“人類自然身體轉變為不朽身體”的技術理想所吸引。然而，這些願景匯聚在一起：佩奇曾建議不如將錢給馬斯克，因為馬斯克想前往火星為人類提供備用星球，這是一個值得貢獻的目標。

這些科幻野心有多種共享的道德來源。其中一個核心起點相當接地氣：有效利他主義運動，它以其毫不妥協的理性吸引技術精英。有效利他主義者認為，慈善大多浪費在資助本地圖書館等事情上。捐贈者必須有目的，謹慎地將錢投入到能為最多人帶來最大利益的地方。這並非不合理，它鼓勵了諸如在非洲根除瘧疾等值得稱讚的努力。但最終，它偏離了當前地球人的需求。

首先，長期主義者從有效利他主義中脫穎而出，認為改善未來世界比花費在當下更有價值。從那裡，只需一小步就能將目標轉向宇宙：如何專注於遙遠未來在銀河系廣闊空間中繁衍的無數超人類的福祉？他們可能是有血有肉的，也可能不是。

人們很容易迷失在這些信念和願望的糾結中——它們由威廉·麥卡斯基爾和尼克·博斯特羅姆等學者在由技術寡頭不斷增長的財富資助的大學系所或智庫中闡述和完善。它們源於非正統倫理學和對物理學的獨特解讀。目標是：證明將人類（或至少其中最特權部分）帶到前所未有之地的必要性。

這群人的目標之一是提升文明的能量消耗等級——卡爾達肖夫指數——以獲取超越生物學限制的能量和技術能力。當前的人類處於階梯底部，甚至沒有消耗地球的所有能量。先進文明被認為至少消耗其恆星的所有能量，如果不是整個星系的話。

1990年代推動超人類未來的早期團體之一是極端自由意志主義的“外推人”（Extropians），包括埃利澤·尤德科夫斯基、博斯特羅姆和經濟學家羅賓·漢森等主要知識分子。他們的核心原則提出：“無邊擴張：尋求更多智慧、知識和效率，無限壽命，以及消除對自我實現和自我超越的政治、文化、生物和心理限制。永遠克服我們進步和可能性的約束。向宇宙擴張，永無止境地前進。”

另一個更近的分支是“有效加速主義者”。他們試圖將物理學拉入自己的陣營，有爭議地認為最大化智慧生命是一種必要性，因為生命善於從環境中提取可用能量並耗散它——增加物理學中所謂的“熵”。正如Beff Jezos（運動領袖之一紀堯姆·韋爾登的線上身份）所說：“有效加速主義旨在遵循‘宇宙的意志’：傾向那些擁有更偉大、更智慧文明的未來，這些文明更有效地從宇宙中尋找/提取自由能量，並在更大尺度上將其轉化為效用。”

這些不是AI公司，而是國防承包商。我們正在將未來押注於一群被科幻夢想驅動的億萬富翁。