再帰的自己改善の経済学

再帰的自己改善の経済学

Parker氏とTom氏は、他の7人の経済学者と共同で「再帰的自己改善の経済学」という論文を執筆しました。この論文は、AIがどのようにAI研究開発を加速させるかについての一連の単純なモデルを解説し、その背景と主要なポイントを浮き彫りにしています。

研究者たちは再帰的自己改善（RSI）を重視する理由として、能力予測の必要性を挙げています。METRの優先事項はフロンティアAI開発からのリスク評価であり、そのための入力の一つが将来のAIシステムの能力水準です。過去5年間で能力は急速に成長しており、今後さらに加速するかどうかを判断する必要があります。

RSIという用語は様々な定義で使用され、多くの混乱を引き起こしてきました。誰もがRSIがモデル能力からモデル改良へのフィードバックを指すことに同意していますが、一部の専門家（Karpathy、Patel、Musk、LessWrongなど）は何らかのフィードバックがあればRSIと見なす一方、他の専門家（Lambertなど）は超指数関数的成長を引き起こすほど強いフィードバック、または完全自律的な成長（Favaro & Clark）を必要条件としています。混乱を避けるため、論文ではRSIを技術的な意味で使用せず、代わりにフィードバック効果の強さと「自己持続的加速」の可能性に焦点を当てています。

能力加速への影響はフィードバック効果の強さに依存します。論文では、全体のフィードバック効果を個別の効果に分解して定量化する簡単な方法を提示しています。最も不確実な関係は、モデル能力の向上がアルゴリズムの進歩速度をどの程度加速するかという点です。

データ、訓練計算、推論計算、実験のボトルネックや、アルゴリズム固有の能力、研究開発固有の能力など、加速が失速する理由は様々考えられますが、論文はこれらの証拠が決定的ではないとし、長期間にわたる急速な加速の可能性を排除できません。

また、論文はラボが今後さらに多くのRSI関連データを公開できると指摘しています。過去6ヶ月間にラボはAIによるAI研究開発への影響に関する有用なデータ（Mythosモデルカード、GPT-5.6モデルカード、Favaro & Clarkの研究など）を公開しましたが、まだ公開可能な有益なデータは多くあります。論文では、今後の公開に向けた具体的な「要望リスト」を提示しています。

論文にはパラメータ推定のキャリブレーションが含まれていますが、これは非常に大まかな初稿に過ぎません。著者らは定量モデルを改良し、より実用的なRSIモデルを提供したいと考えています。また、訓練計算の成長鈍化に関する研究など、能力が減速する可能性についても関心を持っています。