跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

態勢感知:未來十年(2024)

文章摘要

本文認為,人工智慧的發展速度遠超主流預期,AGI可能在2027年前後出現,超級智慧將在本十年末到來,並將引發數萬億美元的工業動員和國家安全專案。

來源Hacker News AI作者: root-parent
態勢感知:未來十年(2024)
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

利奧波德·阿申布倫納(Leopold Aschenbrenner)在2024年6月發表了一篇題為《態勢感知:未來十年》的長文,指出人工智慧的發展速度遠超主流預期。他認為,舊金山已經率先看到了未來:過去一年裡,關於計算叢集的討論從100億美元躍升至1000億,再到1萬億美元,每六個月就增加一個數量級。各大公司正在爭奪電力合同和電壓變壓器,美國工業界準備投入數萬億美元,到本十年末,美國的發電量將增長數十個百分點,數億顆GPU將投入使用。

阿申布倫納認為,AGI(通用人工智慧)競賽已經開始。到2025/26年,這些機器的能力將超過許多大學畢業生;到本十年末,它們將比人類更聰明,實現真正意義上的超級智慧。與此同時,國家安全力量將大規模介入,最終形成類似曼哈頓計劃的政府專案。如果幸運,美國將與中國展開一場全面競賽;如果不幸,則可能爆發戰爭。

然而,大多數人對即將到來的鉅變毫無察覺。Nvidia的分析師仍認為2024年可能是峰值,主流評論家則沉溺於“只是預測下一個詞”的盲目中。只有舊金山和AI實驗室裡的少數人擁有真正的態勢感知。這些人在過去幾年曾被嘲笑為瘋子,但他們靠趨勢線正確預測了AI的進步。他們可能是歷史上的怪人,也可能成為像西拉德、奧本海默和泰勒那樣的人物。

文章的核心論證分為幾個部分。首先,從GPT-4到AGI的路徑:GPT-2到GPT-4用了四年,從學齡前水平躍升到聰明高中生水平。考慮到算力(每年約0.5個數量級)、演算法效率(每年約0.5個數量級)和“去束縛”效應,到2027年有望再次實現類似的質的飛躍。其次,從AGI到超級智慧的智慧爆炸:一旦機器達到人類水平,數百萬個AGI可以自動進行AI研究,將十年的演算法進步壓縮到一年以內,從而迅速超越人類。

文章還討論了三大挑戰。第一,萬億叢集的競賽:隨著AI收入快速增長,數萬億美元將投入GPU、資料中心和電力建設,這是一場前所未有的技術-資本加速。第二,實驗室安全:目前領先的AI實驗室對安全毫不在意,幾乎等於把AGI的關鍵秘密拱手送給中國共產黨。保護AGI的機密和權重免受國家級威脅將極其困難,而目前並未走上正軌。第三,超級對齊:可靠地控制比我們聰明得多的AI系統是一個尚未解決的技術問題。雖然可解,但在快速智慧爆炸中很容易失控,失敗可能是災難性的。此外,自由世界必須獲勝:超級智慧將帶來決定性的經濟和軍事優勢,中國尚未出局,自由世界的生存將受到威脅。

阿申布倫納預測,隨著競賽加劇,國家安全體制將介入。美國政府會從沉睡中醒來,到2027/28年可能出現某種形式的政府AGI專案。沒有任何初創公司能獨自應對超級智慧。最終結局將在某個保密情報設施(SCIF)中上演。他最後問道:如果我們是對的怎麼辦?

展開要點與分析

文章情報

工程師進階

要點

  • 計算叢集規模從100億美元飆升至1萬億美元,推動前所未有的工業動員。
  • AGI可能在2027年實現,超級智慧將在本十年末出現。
  • 2027/28年可能出現政府主導的AGI專案。
  • 面臨安全、對齊和地緣政治競爭等重大挑戰。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。