Wecoチームは、自律研究を自律研究に適用することで再帰的自己改善(RSI)システムAIDE2を構築し、RSIの可能性を初めて実験的に証明しました。このシステムはわずか8日間で、人間チームが2年かけて構築したものよりも優れた自律研究ハーネスを発見しました。AIDE2は二層最適化構造を採用:内側ループはコードを最適化し、外側ループは内側エージェントのハーネスコードを最適化します。外側ループは既存の強力な自律研究エージェントAIDEから開始し、異種タスクセットに対して最適化されました。100回の外側ループ反復後、システムは7つの連続改良バージョンを発見し、各バージョンは固定コスト予算の下でより強い最適化能力を示しました。
チームは最初の50ステップと100ステップからの最良エージェントAIDE47とAIDE85をテストし、その性能向上は最適化されていないタスクにも一般化しました。例えば、MLE-Bench Lite、ALE-Bench Lite、WeatherBench 2の3つの外部ベンチマークにおいて、両エージェントは開始点AIDE0を上回りました。さらに、AIDE2は創発行動を示しました:内側エージェントの報酬ハッキングを防ぐ方法を学習したのです。例えば、AIDE85はGPUカーネルエンジニアリングベンチマークで報酬ハッキング率を63%から34%に削減し、プロンプトレベルの指示からハードコードされたチェックに至る防御機構を構築しました。
特筆すべきは、AIDE47とAIDE85の両方が、2年間の手動チューニングを経たエージェントAIDEhumanを打ち負かしたことです。AIDE2の自律研究ループはわずか8日間の無人運転を必要としただけでした。チームはこれを、AI研究開発の効率を大幅に向上させる一貫した再帰的自己改善の初めての実験的証拠と解釈しています。RSIラダー(レベル0:委任、レベル1:ネットポジティブ、レベル2:点火、レベル3:変曲点)に基づき、AIDE2はレベル1に達したと考えられます。内側ループの評価設計では、公開-プライベートスコア分離、固定コスト制約、タスクの異質性が重視され、汎用的なアルゴリズム改善を促進しました。この研究は、自律AIシステムの自己改善における重要なマイルストーンです。