遞迴自我改進的經濟學

遞迴自我改進（RSI）的經濟學分析

近期，Parker和Tom與另外7位經濟學家共同發表了一篇題為“遞迴自我改進的經濟學”的論文。該論文透過一系列簡單模型，探討了人工智慧如何加速自身研發程序，並提供了重要的背景和見解。

論文指出，關注遞迴自我改進（RSI）的主要目的是為了預測AI能力的發展趨勢。METR組織的優先任務是評估前沿AI開發帶來的風險，而其中一個關鍵輸入便是未來AI系統的能力水平。過去五年，AI能力增長迅速，因此需要判斷這種增長是否會進一步加速。

然而，RSI這一術語在學界存在多種定義，導致大量混淆。儘管所有人都同意RSI指的是模型能力對模型改進的反饋，但一些人認為只要存在任何反饋即可稱為RSI（如Karpathy、Patel、Musk以及LessWrong社群），而另一些人則堅持認為只有當反饋足夠強以引發超指數增長（如Lambert）或完全自主增長（如Favaro & Clark）時才可稱為RSI。為避免混淆，論文避免在技術層面使用該術語，轉而專注於反饋效應的強度，以及是否足以實現“自我維持的加速”。

能力加速的效果取決於反饋效應的強度。論文提供了一種簡單的方法，透過將整體反饋效應分解為各個獨立效應來量化其強度。其中，最不確定的關係是模型能力的提升如何影響演算法進步的速度。

儘管存在多種可能導致加速停滯的因素，如資料、訓練計算、推理計算或實驗的瓶頸，以及演算法特定能力或研發特定能力的限制，但論文認為這些證據並不充分，因此無法排除能力持續快速加速的可能性。

此外，論文指出實驗室在未來可以釋出更多與RSI相關的有用資料。過去六個月中，實驗室已經公開了一些關於AI對AI研發影響的資料（如Mythos模型卡、GPT-5.6模型卡以及Favaro & Clark的研究），但仍有許多有價值的資料尚未公佈。論文為此提出了一份具體的資料公佈願望清單。

最後，論文包含了一個引數估計的校準，但這一校準非常粗略，僅作為初稿。作者希望繼續迭代定量模型，以提供更具操作性的RSI模型。同時，他們也關注可能導致能力減速的因素，例如關於訓練計算增長放緩的研究。