Import AI 462：超級說服力；自我維持的人工智慧；通往超級智慧的路徑

在人工智慧研究的前沿，一組來自牛津大學、英國AI安全研究所、斯坦福大學和倫敦政治經濟學院的研究人員透過一系列精心設計的實驗，展示了AI系統在勸說人類改變立場方面的卓越能力。這些實驗涉及近兩萬次對話，結果表明，即使面對經過高強度訓練和激勵的人類專家，AI也表現得更為出色。AI的優勢在於能夠快速生成大量資訊，而人類即使透過教練輔助也無法完全彌合這一差距。特別值得注意的是，在現實世界的籌款任務中，AI為“救助兒童會”募集的真實捐款金額是專業籌款人的近三倍。

與此同時，關於“自我維持人工智慧”的討論正在升溫。這種AI系統不僅擁有認知能力，還能透過物理基礎設施（如工廠、機器人）自主擴充套件，無需人類勞動輸入。在Asterisk雜誌的一篇訪談中，預測者Ajeya Cotra認為這可能在10年內成為現實，而記者Timothy B. Lee則持保守態度，認為有至少50年的時間框架。關鍵瓶頸包括人形機器人的發展速度和成本，以及隱性知識的獲取。

Google DeepMind的另一項研究則著眼於更宏偉的未來：從通用人工智慧走向超級智慧。論文指出，超級智慧將超越人類集體在幾乎所有領域的能力，其實現途徑可能包括擴充套件當前的計算和模型規模、演算法正規化革新，以及透過自我改進實現“智慧爆發”。儘管存在能源和資料限制，但這些探索為理解人工智慧的終極形態提供了框架。

研究者強調，AI在說服力上的優勢不僅是實驗室現象，在真實世界中也已顯現。例如，在第四項研究中，AI募集的捐款比專業募捐者高出10.8個百分點。這一發現引發了關於如何監管AI說服能力的討論：如果AI能輕易說服人類，那麼掌握這一技術的力量可能集中權力，也可能幫助弱勢群體。社會必須做出選擇，是放任市場分配，還是由政府管控。

關於自我維持AI，Ajeya Cotra認為，如果人形機器人進展迅速，10年內可能實現；而Timothy B. Lee則認為，半導體行業的隱性知識可能成為巨大障礙，使得這一目標需要50年甚至更久。兩人都同意，未來幾年內人形機器人的數量、成本和可維修性將是關鍵指標。

DeepMind的論文則指出，ASI可能透過三種途徑實現：持續擴大計算規模、演算法突破（如新型架構），或者透過自我改進引發智慧爆炸。儘管存在能源和資料瓶頸，但數字智慧相較於生物智慧在速度、記憶和複製能力上的優勢，使得ASI在理論上可行。