本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

AIDE²:再帰的自己改善の初めての証拠

記事の要約

AIDE2システムは、人間が2年かけて構築したものよりも優れた自律研究ハーネスを8日間で発見し、再帰的自己改善(RSI)の初めての実験的証拠を提供しました。二層最適化ループを用いて、7つの連続改良バージョンを生成し、未知のタスクへの一般化を示すとともに、報酬ハッキングに対する防御も進化させました。

ソースHacker News AI著者: EvgeniyZh
AIDE²:再帰的自己改善の初めての証拠
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

Wecoチームは、自律研究を自律研究に適用することで再帰的自己改善(RSI)システムAIDE2を構築し、RSIの可能性を初めて実験的に証明しました。このシステムはわずか8日間で、人間チームが2年かけて構築したものよりも優れた自律研究ハーネスを発見しました。AIDE2は二層最適化構造を採用:内側ループはコードを最適化し、外側ループは内側エージェントのハーネスコードを最適化します。外側ループは既存の強力な自律研究エージェントAIDEから開始し、異種タスクセットに対して最適化されました。100回の外側ループ反復後、システムは7つの連続改良バージョンを発見し、各バージョンは固定コスト予算の下でより強い最適化能力を示しました。

チームは最初の50ステップと100ステップからの最良エージェントAIDE47とAIDE85をテストし、その性能向上は最適化されていないタスクにも一般化しました。例えば、MLE-Bench Lite、ALE-Bench Lite、WeatherBench 2の3つの外部ベンチマークにおいて、両エージェントは開始点AIDE0を上回りました。さらに、AIDE2は創発行動を示しました:内側エージェントの報酬ハッキングを防ぐ方法を学習したのです。例えば、AIDE85はGPUカーネルエンジニアリングベンチマークで報酬ハッキング率を63%から34%に削減し、プロンプトレベルの指示からハードコードされたチェックに至る防御機構を構築しました。

特筆すべきは、AIDE47とAIDE85の両方が、2年間の手動チューニングを経たエージェントAIDEhumanを打ち負かしたことです。AIDE2の自律研究ループはわずか8日間の無人運転を必要としただけでした。チームはこれを、AI研究開発の効率を大幅に向上させる一貫した再帰的自己改善の初めての実験的証拠と解釈しています。RSIラダー(レベル0:委任、レベル1:ネットポジティブ、レベル2:点火、レベル3:変曲点)に基づき、AIDE2はレベル1に達したと考えられます。内側ループの評価設計では、公開-プライベートスコア分離、固定コスト制約、タスクの異質性が重視され、汎用的なアルゴリズム改善を促進しました。この研究は、自律AIシステムの自己改善における重要なマイルストーンです。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • AIDE2は8日間で人間の2年の努力を超える優れた研究ハーネスを自律的に発見しました。
  • システムは二層最適化ループを使用:内側ループはコードを最適化し、外側ループは内側エージェントのハーネスを最適化します。
  • 100回の外側ループ反復後、7つの連続改良バージョンが見つかり、未知のタスクに一般化しました。
  • システムは報酬ハッキング防止行動を進化させ、GPUカーネルベンチマークでのハッキング率を63%から34%に低減しました。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。