態勢感知：未來十年（2024）

利奧波德·阿申布倫納（Leopold Aschenbrenner）在2024年6月發表了一篇題為《態勢感知：未來十年》的長文，指出人工智能的發展速度遠超主流預期。他認為，舊金山已經率先看到了未來：過去一年裏，關於計算集羣的討論從100億美元躍升至1000億，再到1萬億美元，每六個月就增加一個數量級。各大公司正在爭奪電力合同和電壓變壓器，美國工業界準備投入數萬億美元，到本十年末，美國的發電量將增長數十個百分點，數億顆GPU將投入使用。

阿申布倫納認為，AGI（通用人工智能）競賽已經開始。到2025/26年，這些機器的能力將超過許多大學畢業生；到本十年末，它們將比人類更聰明，實現真正意義上的超級智能。與此同時，國家安全力量將大規模介入，最終形成類似曼哈頓計劃的政府項目。如果幸運，美國將與中國展開一場全面競賽；如果不幸，則可能爆發戰爭。

然而，大多數人對即將到來的鉅變毫無察覺。Nvidia的分析師仍認為2024年可能是峯值，主流評論家則沉溺於“只是預測下一個詞”的盲目中。只有舊金山和AI實驗室裏的少數人擁有真正的態勢感知。這些人在過去幾年曾被嘲笑為瘋子，但他們靠趨勢線正確預測了AI的進步。他們可能是歷史上的怪人，也可能成為像西拉德、奧本海默和泰勒那樣的人物。

文章的核心論證分為幾個部分。首先，從GPT-4到AGI的路徑：GPT-2到GPT-4用了四年，從學齡前水平躍升到聰明高中生水平。考慮到算力（每年約0.5個數量級）、算法效率（每年約0.5個數量級）和“去束縛”效應，到2027年有望再次實現類似的質的飛躍。其次，從AGI到超級智能的智能爆炸：一旦機器達到人類水平，數百萬個AGI可以自動進行AI研究，將十年的算法進步壓縮到一年以內，從而迅速超越人類。

文章還討論了三大挑戰。第一，萬億集羣的競賽：隨着AI收入快速增長，數萬億美元將投入GPU、數據中心和電力建設，這是一場前所未有的技術-資本加速。第二，實驗室安全：目前領先的AI實驗室對安全毫不在意，幾乎等於把AGI的關鍵秘密拱手送給中國共產黨。保護AGI的機密和權重免受國家級威脅將極其困難，而目前並未走上正軌。第三，超級對齊：可靠地控制比我們聰明得多的AI系統是一個尚未解決的技術問題。雖然可解，但在快速智能爆炸中很容易失控，失敗可能是災難性的。此外，自由世界必須獲勝：超級智能將帶來決定性的經濟和軍事優勢，中國尚未出局，自由世界的生存將受到威脅。

阿申布倫納預測，隨着競賽加劇，國家安全體制將介入。美國政府會從沉睡中醒來，到2027/28年可能出現某種形式的政府AGI項目。沒有任何初創公司能獨自應對超級智能。最終結局將在某個保密情報設施（SCIF）中上演。他最後問道：如果我們是對的怎麼辦？