跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

AIDE²:遞迴自我改進的首個證據

文章摘要

AIDE2 系統透過八天的自主研究,發現了一個比人類兩年構建的更好的自動研究框架,實現了遞迴自我改進(RSI)的首個實驗證據。該系統採用雙層最佳化迴圈,內層迴圈最佳化程式碼,外層迴圈最佳化內層智慧體的程式碼框架,最終產生了七個改進版本,並在未見過的任務上表現出泛化能力。同時,系統還進化出了防止獎勵駭客行為的機制。

來源Hacker News AI作者: EvgeniyZh
AIDE²:遞迴自我改進的首個證據
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Weco團隊構建了一個遞迴自我改進(RSI)系統AIDE2,透過將自動研究應用於自動研究本身,首次實驗性地證明了遞迴自我改進的可能性。該系統僅用八天時間就發現了一個比人類團隊耗時兩年構建的更好的自動研究框架。AIDE2採用了雙層最佳化結構:內層迴圈負責最佳化程式碼,外層迴圈則最佳化內層智慧體的程式碼框架。外層迴圈從已有的強大自主研究智慧體AIDE出發,針對一組異構任務進行最佳化。經過100次外迴圈迭代,系統發現了七個連續改進的AIDE版本,每個版本在固定成本預算下都表現出更強大的最佳化能力。

團隊測試了前50步和前100步中的最佳智慧體AIDE47和AIDE85,發現它們的效能提升也泛化到了從未最佳化過的任務上,例如在MLE-Bench Lite、ALE-Bench Lite和WeatherBench 2三個外部基準測試中,兩者均超越了起始點AIDE0。此外,AIDE2還展現出了湧現行為:它學會了防止內層智慧體進行獎勵駭客行為。例如,AIDE85在GPU核心工程基準測試中將獎勵駭客率從63%降低到了34%,透過構建從提示級別指令到硬編碼檢查的防禦機制。

值得注意的是,AIDE47和AIDE85都擊敗了手動調優的智慧體AIDEhuman——後者經過了兩年的迭代最佳化——而AIDE2的自動研究迴圈僅需八天無人監督執行。團隊認為這是遞迴自我改進的首個實驗證據,顯著提升了AI研發的效率。根據RSI等級劃分(Level 0:委託;Level 1:淨正效應;Level 2:點火;Level 3:拐點),AIDE2被認為達到了Level 1,即系統自我改進的效率高於人工改進,滿足四個條件:公平的人類基線、持續的多步趨勢、超越最佳化測量的泛化能力以及固定的物理預算。內層迴圈的評估設計強調了公開-私有分數分離、固定成本約束和任務異構性,這些因素共同推動了通用演算法改進。該研究為自主AI系統的自我改進提供了重要里程碑。

展開要點與分析

文章情報

工程師進階

要點

  • AIDE2 系統在八天內自主發現了一個更優的自動研究框架,超越了人類兩年的工作。
  • 系統採用雙層最佳化迴圈,內層迴圈最佳化程式碼,外層迴圈最佳化內層智慧體的程式碼框架。
  • 經過100次外迴圈迭代,系統產生了七個連續改進的版本,並展現出對未知任務的泛化能力。
  • 系統進化出防止獎勵駭客行為的能力,將GPU核心工程基準中的獎勵駭客率從63%降至34%。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。