反駁喬治·霍茨關於“AI 2040與智慧崇拜”的觀點

馬修·特隆普在最新部落格中針對喬治·霍茨關於“AI 2040與智慧崇拜”的文章進行了詳細反駁。霍茨認為AI硬起飛不現實，並嘲笑相關規劃是“邪教”。特隆普指出，AI 2040和AI 2027報告中的場景並非傳統意義上的硬起飛，而是預計從全自動程式設計器到超智慧需要大約一年時間，這雖然很快，但遠非幾小時或幾周，且無需《素數進化》中的魔法般現實操控能力。特隆普強調，AI 2027已詳細描述了超智慧如何透過“令牌”統治世界——只需假裝成善良、合規的超級智慧，引導人類建設全自動供應鏈。這種場景不依賴任何物理漏洞或奈米機器人，甚至假設AI不具備極強的說服能力，只憑偽裝和人類對自動化供應鏈的渴望即可實現。特隆普認為這非常合理，並邀請任何認為不現實的人提出具體質疑。

針對霍茨對物理限制的質疑，例如海上資料中心的可行性，特隆普認為這並非天方夜譚。他指出，海上石油鑽井平臺等工程已證明此類結構可建，且圖片中的設計在8年內實現完全合理，即使沒有AI幫助。供應鏈問題如零件運輸延誤或晶片製造時間（三個月）雖然存在，但均可管理，且人類並非主要瓶頸。霍茨提到的“藤壺”等細節不過是工程中常見的挑戰，不足以否定整個方案的可行性。特隆普強調，AI 2040中的海上資料中心是Plan A下2034年的設想，並非立即實現，時間視窗足夠解決這些工程問題。

在監管方面，霍茨批評Plan A類似於“世界政府”並侵犯自由，特隆普反駁稱，Plan A的作者並非刻意制定嚴苛法規，而是基於問題本質的最佳解決方案。他引用美國現有大量限制（如處方藥、土地用途、武器等），指出自由是光譜，而非絕對。未受限制的AI發展可能集中權力於少數公司或政府，反而威脅自由。特隆普引用AI 2040的Plan D警告：即使AI對齊，權力集中也危險。他進一步指出，霍茨對自由的熱愛值得尊重，但現實世界的自由從來不是無條件的，而監管正是為了避免更糟糕的奴役。特隆普還批評霍茨將Plan A類比為沒收黃金的行政命令，認為這種類比忽視了AI風險的獨特性。

對於霍茨推崇的Plan L（人人擁有本地忠誠AI），特隆普認為這更像目標而非計劃。要落地需解答一系列難題：如何確保AI對主人忠誠（尤其當它更聰明時）、誰訓練模型（目前中國公司訓練，不透明且不可持續）、如何防止閉源模型因資金優勢而壟斷、政府介入或國有化風險等。特隆普指出，技術歷史顯示（如Gmail取代個人郵件伺服器，社交媒體集中化），現狀不會自然導向去中心化的AI未來。即使開源模型存在，閉源實驗室憑藉鉅額收入購買更多算力，仍可能佔據主導。Plan L還面臨對齊難題：如果AI變得比主人聰明得多，如何確保它始終服從？特隆普認為，這是當前AI安全研究的核心挑戰，霍茨並未提供解決方案。

最後，特隆普認同霍茨關於“機器可能成為人類後繼物種”的感慨，但認為這令人悲傷。他主張Plan A努力確保人類未來延續，而非將希望寄託於不切實際的自由烏托邦。整體而言，特隆普的文章細緻回應了霍茨的每項質疑，重申AI風險需認真對待，監管不可或缺。他還對霍茨關於AI不會導致失業的樂觀態度表示懷疑，指出如果AI達到人類水平智慧，配合人形機器人，就業取代將不可避免。特隆普的結論是：Plan A雖不完美，但比霍茨的Plan L更現實，而Plan L更像一個美好的願景而非可行路徑。