AI News HubLIVE
站内改写3 分钟阅读

循环工程指南:'自动研究'和'双层自动研究'如何将AI代理转变为自主机器学习ML研究循环

本文介绍了循环工程的概念,即AI代理自主迭代实现目标,包含验证器、状态和停止条件三个关键部分。详细阐述了安德烈·卡帕西的自动研究循环和双层自动研究,展示了具体成果:自动研究在700次实验中找到20个改进,使GPT-2训练速度提升11%;双层自动研究通过外层元循环进一步实现了5倍的性能提升。还提供了可复用的构建块和实际操作模板。

来源MarkTechPost作者: Asif Razzaq

大多数人仍像使用2015年的搜索框一样使用AI:输入、阅读、再输入。一种新模式用循环取代了这种手动往返。本指南通过两个已验证的示例解释循环工程:安德烈·卡帕西的自动研究代码库和双层自动研究论文。框架遵循@0xCodila的博文。

什么是循环工程? 首先,比较两种模式。提示是一次指令,之后由你决定下一步。而循环是模型持续追求直到达成的目标。模型规划、行动、检查自身结果,然后重复。你只需定义一次目标,循环处理迭代。关键是,只有当工作可衡量时,循环才值得投入成本。

构成循环的三个部分 一个可靠的循环有三个组成部分。验证器给每次尝试打分。检查可以是通过的测试、变化的指标或构建。没有验证器,代理只会重复自说自话。状态记录尝试过什么、失败了什么和剩余任务。一个小边文件让下次运行可以继续而非重新开始。停止条件防止成本失控。循环在目标达成或尝试N次后停止。

卡帕西循环:剖析'自动研究' 这三个部分并非理论。2026年3月7日,卡帕西以MIT许可证发布了自动研究,包含三个核心文件约630行代码。该项目几天内走红,现拥有近9万GitHub星标。后来被称为“卡帕西循环”模式。 设计刻意小巧但严格。代理只能编辑train.py,其中包含GPT模型、优化器(Muon和AdamW)和训练循环。它不能触碰prepare.py中的评估工具。这种分离防止代理让测试更容易而非让模型更好。同时,人类编写program.md,代理必须遵守的指令。 每个周期运行一次实验。代理读取代码、提出更改、训练五分钟,然后保留或回滚。评分指标是val_bpb(验证比特每字节),越低越好。该预算每小时约12次实验,因此一夜可跑约100次。 报告结果具体。卡帕西将其应用于已优化的nanochat GPT-2训练代码。运行两天,完成约700次实验,保留20个真正改进。叠加后,GPT-2质量训练时间缩短11%,从2.02小时降至1.80小时。其中一项发现是QK-Norm实现缺少标量乘子,导致注意力在头间过于分散。 值得注意的是,人类大约12次实验后疲倦,而循环不会。此外,Shopify首席执行官Tobi Lütke在一夜自动研究后报告内部模型改进19%。卡帕西的结论:如果你有客观指标,你就是瓶颈。

提示 vs 循环 vs 双层循环 差异更清晰。单次提示:你定义每一步,你迭代,验证器是你自己。卡帕西循环:你定义一次目标,内代理迭代,验证器是prepare.py(val_bpb)。双层自动研究:你定义一次目标,内外代理迭代,验证器相同指标两层。人类角色从执行者变为program.md作者。

五个构建块 因此,AI工程团队现在从五个可复用部分组装工作循环:自动化按计划或事件触发循环;技能将项目知识存储在markdown文件中;子代理将编写者与评审者分开;连接器让循环在真实工具中行动;验证器是拒绝差工作的门。Claude Code和Codex现已包含全部五个。

双层自动研究:循环之上的循环 接下来,研究人员提出更尖锐的问题:如果自动研究是研究,能否自动化研究本身?研究论文《双层自动研究:元自动研究自身》给出肯定答案。 内循环匹配卡帕西原版:提出、训练、评估、保留或丢弃。外循环观察内循环并读取其代码和轨迹,识别搜索卡住的地方,然后编写新的Python机制,在运行时注入并重新运行内循环。 结果在卡帕西GPT预训练基准上成立。外循环使val_bpb下降幅度比单循环大5倍(-0.045对比-0.009)。两者使用相同LLM,因此收益来自架构而非更智能模型。实践中设计分为三级:1级运行基础循环;1.5级每五次迭代调整搜索参数;2级通过四轮会话生成机制。报告实验使用RTX 5090 32GB和300秒预算。 原因值得注意:内循环不断返回相同先验,即使它们已失效。外循环通过强制不熟悉的探索打破这些模式。

用例示例 这些想法远不止预训练。模型工作:循环搜索超参数直到val_bpb下降。软件:重构直到测试、类型和构建通过。内容:重写直到每项标准分数超过阈值。数据:调整管道直到架构检查通过。每个案例共同点:自动门可判定工作失败。

自行尝试:单提示循环 理论之外,无需Claude Code或Codex即可体验机制。将以下内容粘贴到任何有能力的模型中,观察其自我修正。提供任务、成功标准、循环协议(规划、执行、验证、决策)和规则。底层控制流很小:验证器、决策和两个停止条件。

两种版本均有局限。你仍是触发器,关闭标签页会清除状态。添加自动化、状态文件和真实门会将其变为自主循环。

关键要点 循环需要三个部分:验证器、持久状态和停止条件。自动研究让代理只编辑train.py而不触及评估器。卡帕西一夜运行保留20个修复,训练速度提升11%。双层自动研究带来5倍val_bpb收益。循环将工作转向设计和审查,并未消除思考。