應對人工智慧的爆炸式增長——對抗災難論

政策制定者習慣於用有限、可衡量的術語思考，如法律、預算和專案實施。然而，人工智慧不再沿著直線或公共管理的熟悉邊界前進。相反，它似乎沿著指數曲線加速，重塑預期的速度超過了機構可能適應的速度。對許多觀察者來說，這感覺不像是離散的一系列進步，而更像是一個不可控甚至令人恐懼的、開放式的增長事件。首先，我將進行歷史比較，以展示早期的“無限”增長事件（如工業革命和網際網路興起）如何引導人類創造理解變化的新框架。然後，我將利用這些歷史平行點來指導我們如何看待當今的AI增長事件。

過去的“無限”透過圍繞工業生產和數字通訊的新概念框架而得以穩定。我們應該考慮將這些框架應用於大型語言模型（LLM）帶來的知識本身的指數增長。未來的政策挑戰不是限制進步，而是鼓勵市場機制公正地分配資本，同時制定規則，幫助政策制定者在新的領域中工作。

過去 工業革命是第一個看似不受限制的經濟增長事件的例子。在1750年到1900年間，世界以任何人無法想象的速度變化。地球上的人口翻了三倍，使用的能源增加了十倍，工廠的產出每幾十年翻一番。幾個世紀以來，領導者和思想家基本上將經濟視為週期性的[1]。隨後，化石燃料和可互換零件帶來的增長迫使我們重新思考這一概念。

政策制定者面對這種新的增長規模，並沒有試圖阻止它，而是發明了使其可管理的抽象概念。時間標準化將地方時間同步為全球時鐘，公制系統用通用單位取代了區域度量，國民收入核算將無數交易轉化為GDP等總量，使工業擴張既易於理解又便於管理。然而，即使是這種看似無限的增長幻象也遇到了極限。資源稀缺和收益遞減施加了自然漸近線，將指數擴張減緩為更溫和的S曲線（參見數學附錄）。

如果工業革命代表了物質和能量的無限，那麼20世紀末則帶來了資訊的無限。當電腦科學家描述演算法擴充套件的效率時，他們使用“大O符號”來表徵執行時間如何隨輸入增長：例如，O(n)過程線性擴充套件，而O(2ⁿ)指數擴充套件。然而，數字世界不僅增長更快，而且以類似於更陡峭複雜度類別的方式增長。從1980年到2020年，全球數字儲存容量增長了超過十億倍，連線裝置的數量接近超指數曲線，隨著每個附加節點乘以可能的通訊路徑數量，接近O(n!)。[2]這種連線性的爆炸看似無邊無際，一個資訊奇點，其中約束從物理稀缺轉變為認知過載：有限的人類注意力如何處理實際上無限的資料？人類並沒有試圖阻止這種增長，而是透過組織框架來塑造它。TCP/IP協議棧和HTTP標準組織了機器之間如何通訊。PageRank[3]（谷歌搜尋演算法的基礎）透過數學評估相關性將秩序強加於混亂，使龐大、無結構的網際網路變得可導航。

然而，隨著時間的推移，這種資訊無限遇到了一個基本極限：人類注意力[4]。連線裝置和資料流的數量繼續指數增長，但人類可用於消費的時間保持不變。我們仍然處於這一資訊增長事件中，但其軌跡現在也趨向於漸近線。注意力成為頻寬或儲存都無法克服的瓶頸。

連續經濟增長事件的形狀