循環工程指南：'自動研究'和'雙層自動研究'如何將AI代理轉變為自主機器學習ML研究循環

大多數人仍像使用2015年的搜索框一樣使用AI：輸入、閲讀、再輸入。一種新模式用循環取代了這種手動往返。本指南通過兩個已驗證的示例解釋循環工程：安德烈·卡帕西的自動研究代碼庫和雙層自動研究論文。框架遵循@0xCodila的博文。

什麼是循環工程？ 首先，比較兩種模式。提示是一次指令，之後由你決定下一步。而循環是模型持續追求直到達成的目標。模型規劃、行動、檢查自身結果，然後重複。你只需定義一次目標，循環處理迭代。關鍵是，只有當工作可衡量時，循環才值得投入成本。

構成循環的三個部分 一個可靠的循環有三個組成部分。驗證器給每次嘗試打分。檢查可以是通過的測試、變化的指標或構建。沒有驗證器，代理只會重複自説自話。狀態記錄嘗試過什麼、失敗了什麼和剩餘任務。一個小邊文件讓下次運行可以繼續而非重新開始。停止條件防止成本失控。循環在目標達成或嘗試N次後停止。

卡帕西循環：剖析'自動研究' 這三個部分並非理論。2026年3月7日，卡帕西以MIT許可證發佈了自動研究，包含三個核心文件約630行代碼。該項目幾天內走紅，現擁有近9萬GitHub星標。後來被稱為“卡帕西循環”模式。 設計刻意小巧但嚴格。代理只能編輯train.py，其中包含GPT模型、優化器（Muon和AdamW）和訓練循環。它不能觸碰prepare.py中的評估工具。這種分離防止代理讓測試更容易而非讓模型更好。同時，人類編寫program.md，代理必須遵守的指令。 每個週期運行一次實驗。代理讀取代碼、提出更改、訓練五分鐘，然後保留或回滾。評分指標是val_bpb（驗證比特每字節），越低越好。該預算每小時約12次實驗，因此一夜可跑約100次。 報告結果具體。卡帕西將其應用於已優化的nanochat GPT-2訓練代碼。運行兩天，完成約700次實驗，保留20個真正改進。疊加後，GPT-2質量訓練時間縮短11%，從2.02小時降至1.80小時。其中一項發現是QK-Norm實現缺少標量乘子，導致注意力在頭間過於分散。 值得注意的是，人類大約12次實驗後疲倦，而循環不會。此外，Shopify首席執行官Tobi Lütke在一夜自動研究後報告內部模型改進19%。卡帕西的結論：如果你有客觀指標，你就是瓶頸。

提示 vs 循環 vs 雙層循環 差異更清晰。單次提示：你定義每一步，你迭代，驗證器是你自己。卡帕西循環：你定義一次目標，內代理迭代，驗證器是prepare.py（val_bpb）。雙層自動研究：你定義一次目標，內外代理迭代，驗證器相同指標兩層。人類角色從執行者變為program.md作者。

五個構建塊 因此，AI工程團隊現在從五個可複用部分組裝工作循環：自動化按計劃或事件觸發循環；技能將項目知識存儲在markdown文件中；子代理將編寫者與評審者分開；連接器讓循環在真實工具中行動；驗證器是拒絕差工作的門。Claude Code和Codex現已包含全部五個。

雙層自動研究：循環之上的循環 接下來，研究人員提出更尖鋭的問題：如果自動研究是研究，能否自動化研究本身？研究論文《雙層自動研究：元自動研究自身》給出肯定答案。 內循環匹配卡帕西原版：提出、訓練、評估、保留或丟棄。外循環觀察內循環並讀取其代碼和軌跡，識別搜索卡住的地方，然後編寫新的Python機制，在運行時注入並重新運行內循環。 結果在卡帕西GPT預訓練基準上成立。外循環使val_bpb下降幅度比單循環大5倍（-0.045對比-0.009）。兩者使用相同LLM，因此收益來自架構而非更智能模型。實踐中設計分為三級：1級運行基礎循環；1.5級每五次迭代調整搜索參數；2級通過四輪會話生成機制。報告實驗使用RTX 5090 32GB和300秒預算。 原因值得注意：內循環不斷返回相同先驗，即使它們已失效。外循環通過強制不熟悉的探索打破這些模式。

用例示例 這些想法遠不止預訓練。模型工作：循環搜索超參數直到val_bpb下降。軟件：重構直到測試、類型和構建通過。內容：重寫直到每項標準分數超過閾值。數據：調整管道直到架構檢查通過。每個案例共同點：自動門可判定工作失敗。

自行嘗試：單提示循環 理論之外，無需Claude Code或Codex即可體驗機制。將以下內容粘貼到任何有能力的模型中，觀察其自我修正。提供任務、成功標準、循環協議（規劃、執行、驗證、決策）和規則。底層控制流很小：驗證器、決策和兩個停止條件。

兩種版本均有侷限。你仍是觸發器，關閉標籤頁會清除狀態。添加自動化、狀態文件和真實門會將其變為自主循環。

關鍵要點 循環需要三個部分：驗證器、持久狀態和停止條件。自動研究讓代理只編輯train.py而不觸及評估器。卡帕西一夜運行保留20個修復，訓練速度提升11%。雙層自動研究帶來5倍val_bpb收益。循環將工作轉向設計和審查，並未消除思考。