迴圈工程指南：'自動研究'和'雙層自動研究'如何將AI代理轉變為自主機器學習ML研究迴圈

大多數人仍像使用2015年的搜尋框一樣使用AI：輸入、閱讀、再輸入。一種新模式用迴圈取代了這種手動往返。本指南透過兩個已驗證的示例解釋迴圈工程：安德烈·卡帕西的自動研究程式碼庫和雙層自動研究論文。框架遵循@0xCodila的博文。

什麼是迴圈工程？ 首先，比較兩種模式。提示是一次指令，之後由你決定下一步。而迴圈是模型持續追求直到達成的目標。模型規劃、行動、檢查自身結果，然後重複。你只需定義一次目標，迴圈處理迭代。關鍵是，只有當工作可衡量時，迴圈才值得投入成本。

構成迴圈的三個部分 一個可靠的迴圈有三個組成部分。驗證器給每次嘗試打分。檢查可以是透過的測試、變化的指標或構建。沒有驗證器，代理只會重複自說自話。狀態記錄嘗試過什麼、失敗了什麼和剩餘任務。一個小邊檔案讓下次執行可以繼續而非重新開始。停止條件防止成本失控。迴圈在目標達成或嘗試N次後停止。

卡帕西迴圈：剖析'自動研究' 這三個部分並非理論。2026年3月7日，卡帕西以MIT許可證釋出了自動研究，包含三個核心檔案約630行程式碼。該專案幾天內走紅，現擁有近9萬GitHub星標。後來被稱為“卡帕西迴圈”模式。 設計刻意小巧但嚴格。代理只能編輯train.py，其中包含GPT模型、最佳化器（Muon和AdamW）和訓練迴圈。它不能觸碰prepare.py中的評估工具。這種分離防止代理讓測試更容易而非讓模型更好。同時，人類編寫program.md，代理必須遵守的指令。 每個週期執行一次實驗。代理讀取程式碼、提出更改、訓練五分鐘，然後保留或回滾。評分指標是val_bpb（驗證位元每位元組），越低越好。該預算每小時約12次實驗，因此一夜可跑約100次。 報告結果具體。卡帕西將其應用於已最佳化的nanochat GPT-2訓練程式碼。執行兩天，完成約700次實驗，保留20個真正改進。疊加後，GPT-2質量訓練時間縮短11%，從2.02小時降至1.80小時。其中一項發現是QK-Norm實現缺少標量乘子，導致注意力在頭間過於分散。 值得注意的是，人類大約12次實驗後疲倦，而迴圈不會。此外，Shopify執行長Tobi Lütke在一夜自動研究後報告內部模型改進19%。卡帕西的結論：如果你有客觀指標，你就是瓶頸。

提示 vs 迴圈 vs 雙層迴圈 差異更清晰。單次提示：你定義每一步，你迭代，驗證器是你自己。卡帕西迴圈：你定義一次目標，內代理迭代，驗證器是prepare.py（val_bpb）。雙層自動研究：你定義一次目標，內外代理迭代，驗證器相同指標兩層。人類角色從執行者變為program.md作者。

五個構建塊 因此，AI工程團隊現在從五個可複用部分組裝工作迴圈：自動化按計劃或事件觸發迴圈；技能將專案知識儲存在markdown檔案中；子代理將編寫者與評審者分開；聯結器讓迴圈在真實工具中行動；驗證器是拒絕差工作的門。Claude Code和Codex現已包含全部五個。

雙層自動研究：迴圈之上的迴圈 接下來，研究人員提出更尖銳的問題：如果自動研究是研究，能否自動化研究本身？研究論文《雙層自動研究：元自動研究自身》給出肯定答案。 內迴圈匹配卡帕西原版：提出、訓練、評估、保留或丟棄。外迴圈觀察內迴圈並讀取其程式碼和軌跡，識別搜尋卡住的地方，然後編寫新的Python機制，在執行時注入並重新執行內迴圈。 結果在卡帕西GPT預訓練基準上成立。外迴圈使val_bpb下降幅度比單迴圈大5倍（-0.045對比-0.009）。兩者使用相同LLM，因此收益來自架構而非更智慧模型。實踐中設計分為三級：1級執行基礎迴圈；1.5級每五次迭代調整搜尋引數；2級透過四輪會話生成機制。報告實驗使用RTX 5090 32GB和300秒預算。 原因值得注意：內迴圈不斷返回相同先驗，即使它們已失效。外迴圈透過強制不熟悉的探索打破這些模式。

用例示例 這些想法遠不止預訓練。模型工作：迴圈搜尋超引數直到val_bpb下降。軟體：重構直到測試、型別和構建透過。內容：重寫直到每項標準分數超過閾值。資料：調整管道直到架構檢查透過。每個案例共同點：自動門可判定工作失敗。

自行嘗試：單提示迴圈 理論之外，無需Claude Code或Codex即可體驗機制。將以下內容貼上到任何有能力的模型中，觀察其自我修正。提供任務、成功標準、迴圈協議（規劃、執行、驗證、決策）和規則。底層控制流很小：驗證器、決策和兩個停止條件。

兩種版本均有侷限。你仍是觸發器，關閉標籤頁會清除狀態。新增自動化、狀態檔案和真實門會將其變為自主迴圈。

關鍵要點 迴圈需要三個部分：驗證器、持久狀態和停止條件。自動研究讓代理只編輯train.py而不觸及評估器。卡帕西一夜執行保留20個修復，訓練速度提升11%。雙層自動研究帶來5倍val_bpb收益。迴圈將工作轉向設計和審查，並未消除思考。