Weco團隊構建了一個遞迴自我改進(RSI)系統AIDE2,透過將自動研究應用於自動研究本身,首次實驗性地證明了遞迴自我改進的可能性。該系統僅用八天時間就發現了一個比人類團隊耗時兩年構建的更好的自動研究框架。AIDE2採用了雙層最佳化結構:內層迴圈負責最佳化程式碼,外層迴圈則最佳化內層智慧體的程式碼框架。外層迴圈從已有的強大自主研究智慧體AIDE出發,針對一組異構任務進行最佳化。經過100次外迴圈迭代,系統發現了七個連續改進的AIDE版本,每個版本在固定成本預算下都表現出更強大的最佳化能力。
團隊測試了前50步和前100步中的最佳智慧體AIDE47和AIDE85,發現它們的效能提升也泛化到了從未最佳化過的任務上,例如在MLE-Bench Lite、ALE-Bench Lite和WeatherBench 2三個外部基準測試中,兩者均超越了起始點AIDE0。此外,AIDE2還展現出了湧現行為:它學會了防止內層智慧體進行獎勵駭客行為。例如,AIDE85在GPU核心工程基準測試中將獎勵駭客率從63%降低到了34%,透過構建從提示級別指令到硬編碼檢查的防禦機制。
值得注意的是,AIDE47和AIDE85都擊敗了手動調優的智慧體AIDEhuman——後者經過了兩年的迭代最佳化——而AIDE2的自動研究迴圈僅需八天無人監督執行。團隊認為這是遞迴自我改進的首個實驗證據,顯著提升了AI研發的效率。根據RSI等級劃分(Level 0:委託;Level 1:淨正效應;Level 2:點火;Level 3:拐點),AIDE2被認為達到了Level 1,即系統自我改進的效率高於人工改進,滿足四個條件:公平的人類基線、持續的多步趨勢、超越最佳化測量的泛化能力以及固定的物理預算。內層迴圈的評估設計強調了公開-私有分數分離、固定成本約束和任務異構性,這些因素共同推動了通用演算法改進。該研究為自主AI系統的自我改進提供了重要里程碑。