關於變革性AI的一封私人信函
這篇文章是一封私人信件，作者George Rosenfeld向家人朋友解釋為何他認為AI可能在未來幾年徹底改變世界，並對當前的發展軌跡表示擔憂。他討論了AI自動化一切人類工作的可能性、快速進步的趨勢、以及可能帶來的巨大風險和機遇。
人工智能的發展正以超乎想象的速度推進，有可能在未來幾年內徹底改變人類社會的方方面面。這是George Rosenfeld在給親友的一封私人信函中表達的核心觀點。作為Coefficient Giving全球災難風險副主任，他負責Navigating Transformative AI項目，專注于思考AI可能帶來的極端情景，並致力於幫助世界做好準備。
Rosenfeld坦言，這些想法聽起來像是科幻小説：AI系統能在所有人類任務上超越人類，科學進步在數月內完成數十年進展，甚至人類可能失去對世界的掌控。儘管這些情景並非主流觀點，他本人也曾長期持懷疑態度，但過去兩年中，他的保守預測屢次被AI的實際進展打破，使他越來越相信這些可能性正在逼近。
他認為AI與傳統技術的根本區別在於，它有可能自動化人類的全部工作，包括曾經專屬人類的開放式思考。這不僅意味着大規模失業，更標誌着經濟模式的根本轉變——因為人類勞動不再是科學和經濟進步的瓶頸。超級AI的出現可能使數百年的進步壓縮在數年之內，其變化規模堪比從1500年至今的鉅變，但適應時間卻短得多。
當前AI能力正快速提升。2022年的ChatGPT尚可應對簡單對話，而到2024年，頂級AI已能通過律師資格考試並獲國際數學奧賽銀牌，2025年更奪得金牌。2026年初，AI代理已能獨立完成需專業程序員數小時的軟件項目。METR的測量顯示，AI系統的時間線（即自主完成軟件任務的難度）自2019年以來每七個月翻一番，近期更加速為四個月。
投資數據進一步印證了這種趨勢。AI公司Anthropic的年化收入從2023年底的1億美元飆升至2025年底的90億美元，而五大科技公司2026年對AI基礎設施的投入預計超過6000億美元——遠超阿波羅計劃的整個開銷。這些數字雖不能保證AI定能變革經濟，但與能力提升的趨勢結合，表明要麼AI進展很快遇到瓶頸，要麼它將成為全球經濟的核心動力。
Rosenfeld特別引用了前同事Ajeya Cotra的預測：AI可能在2026年底前完成24小時的軟件工程任務，而目前她認為這一能力可能已無上限。Cotra預計，到2030年代初，AI或能在所有計算機任務上超越頂尖人類專家，體力勞動的自動化也將隨後實現。
儘管存在不確定性，Rosenfeld認為世界正站在歷史的轉折點上。他希望通過分享這些想法，促使更多人關注和討論AI可能帶來的挑戰與機遇，以便更好地應對即將到來的變革。