AI News HubLIVE
站内改写5 分钟阅读

循环到底是什么?

本文深入探讨了AI工程中“循环”概念的四种不同架构:执行循环、任务循环、产品循环和系统循环,并分析了它们之间的关系及其在自动化开发中的应用。文章还讨论了围绕循环的炒作与实际实践之间的差距,以及人类在其中的监督角色。

来源O'Reilly AI & ML Radar作者: Laurie Voss

本文最初发表于LinkedIn,经作者授权转载。

我们正处于炒作周期的顶峰。6月7日,Peter Steinberger发帖称,你不应该再提示编码代理,而应该设计循环来提示你的代理。同周,Anthropic的Boris Cherny在台上表示,他不再提示Claude:“我编写循环,循环完成工作。”Addy Osmani于6月7日发表了名为“循环工程”的文章,swyx于6月12日发表了“Loopcraft:堆叠循环的艺术”,LangChain于6月16日发表了“循环工程的艺术”。随后举行的AI工程师世界博览会(AI Engineer World's Fair)上,这个词主导了主舞台。Swyx的主题演讲是关于Loopcraft的,整个轨道专门讨论软件工厂,一位又一位演讲者都提到了同一个词,会议于7月2日闭幕,最后进行了一小时的辩论,讨论关于循环的炒作是否已经超越了实际有效的做法。

问题是,谈论循环的人并不都在讨论同一件事。我数了至少四种不同的架构隐藏在同一个词背后。因此,本文旨在厘清每个人的意思。

执行循环:代理自身的行动-观察周期

这是大多数人提到“代理”时想象到的循环:调用工具、读取结果、决定下一步行动,并重复直到没有更多工具调用。这就是Addy所说的内部执行循环,代理现在可以很大程度上自行运行这部分,这是你可以设计的最内层循环。(swyx的堆栈中有一个令牌循环,但没人设计令牌循环。它只是模型的一部分。)

执行循环在一个任务内迭代步骤。它根据环境反馈结束:测试输出、API响应、文件内容。人类通常在此期间缺席,出现在边界上,批准计划或审查结果。执行循环还会在代理认为完成时结束,无论是否真的完成。该领域发现的第一个解决方案是将此循环包装在另一个不轻信代理的循环中。

任务循环:重启代理直到满足规范

这是第一个被命名的循环,即Geoffrey Huntley的Ralph循环。在AI工程师世界博览会的主舞台上,Keycard的Allie Howe在介绍软件工厂环节时引用了Geoffrey的文章《一切都是Ralph循环》,从而提到了这个名称。Ralph循环反复重启代码代理,每次迭代分配全新的上下文窗口,每个循环只执行一个任务。明显的浪费恰恰是关键点:每次都重新提供完整规范,防止了长期运行会话中悄悄发生的上下文腐烂和压缩事件。

此循环迭代的是单个工件。结束循环的条件是符合规范并通过测试。人类编写规范并判断完成度,在Geoffrey的描述中,人类还有一个额外的任务,我稍后会回到这一点:观察循环,发现失败模式,并修复它们以防止再次发生。在会议最后一天的闭幕辩论中,他将这个角色比作机车工程师,其全部工作就是确保火车在轨道上运行。然而,如果从单个规范中抽离出来,一个更大的循环就浮出水面:管理整个代码库的循环。

产品循环:软件工厂

这是在AI工程师世界博览会上最响亮的版本。Factory的Tereza Tizkova将软件工厂定义为“整个循环,自主开发软件的整个生命周期”。Warp的Zach Lloyd在与Latent Space的采访中具体说明了这个生命周期:分类、规范、实现、审查、验证、发布和监控。Zach声称,软件工程变成了工厂工程,你将要构建构建产品的东西。Warp正在内部实践这一点:该公司将其开源代码库置于工厂平台Oz的控制之下。Zach将采用路径描述为从低风险仓库开始,并将自动PR合并率从20%逐步提高到60%。Anthropic似乎也在内部进行同样的实验。该公司表示,其产品团队65%的代码现在由其内部版本的Claude Tag创建,Mike Krieger在博览会上描述其团队的使用方式为委托式和主动式:不是“修复这个错误”,而是对这个代码库的这部分负责,监控这个反馈渠道,并自行挑选任务。

任务循环和执行循环有明确的退出条件。产品循环迭代代码库及其待办事项,持续进行,其关闭信号完全来自代码库外部:新问题、生产日志、用户反馈、审查结果。人类的角色变为可配置的。在Zach的框架中,你可以选择生命周期中需要自动化的部分以及人类介入的点,组织在诸如高风险变更是否需要人工审查等问题上存在分歧。工厂改进产品。下一个循环改进工厂本身。

系统循环:自动研究

Introspection的Roland Gavrilescu称之为自动研究。他在Latent Space采访中这样阐述这个概念:内部循环是面向用户的主要系统,外部循环研究并维护主要系统。它迭代提示、工具、模型选择和评估本身。他的金句是:循环就是产品。

这种模式现在在大小规模上都有真实存在。最小的情况是Andrej Karpathy在2026年3月提出的自动研究,大约630行Python代码,在一台GPU上过夜运行了50次假设-编辑-评估实验。已发布的情况是Meta在6月底宣布的Brain2Qwerty v2,研究人员报告说,代理迭代修改代码库以发明更好的解码架构,从而显著提高了词错误率。Meta的说明具有启发性:最终训练配置仍然是手动选择的。即使是旗舰系统循环,也在最后一个检查点保留了人类。

结束此循环需要最严格的信号集:评估、评判、过滤后的产品反馈,以及Roland设计中的显式“询问人类”工具,代理通过该工具积累隐性知识,就像新员工一样。这就是堆栈的顶部。将四种循环放在一起,整个系统的形状就可见了。

四种循环并列

Agentic MapReduce怎么样?

同周有一个著名的模式被故意排除在外。Cognition的Devin Security Swarm将并行的有界代理分发到仓库中,并聚合它们的发现,该公司称之为Agentic MapReduce,它被称为一种循环。我认为它不是一个循环。分发、收集、验证是一个管道:没有任何反馈进入下一个周期,而没有反馈的循环只是一个for语句。扇出是一种可以在任何四个循环内部部署的拓扑结构,而不是单独的循环。

顶部的无名循环是监督循环

在swyx的循环图中,最外层的环,即制造循环的循环之上的那一层,被标记为“????循环”。其动词是“设定目标、分配、剔除”。退出条件列为无。

我认为这个循环有名字。我称之为监督循环:这里设定目标、分配预算、剔除工作,这是人类应该占据的唯一一环。Addy在AIEWF的舞台上说:“内部循环是能力。外部循环是自主性。”自主性正是监督循环所拥有的。

AIEWF上最尖锐的分歧,一旦你翻译过来,都是关于谁运行这个顶层循环的争论。Zach和Roland主张调高刻度:有意识地选择检查点,随着信任的积累逐步提高自主性,并且用Roland令人难忘的区分来说,在建造工厂之前先建造管弦乐队,其中管弦乐队是一个保持人类指挥的系统。另一方则认为刻度有终点。Notion的Geoffrey Litt在X上称工厂是一种令人沮丧的愿景,并在随后发表为文章的一次演讲中辩称,那些将理解委托给代理的人将会被代理取代。Paul Bakaus直言不讳:“没有自动,也不会有自动。”他的论点不仅关乎质量,还关乎所有权。人们需要目标,他们希望在自己创造的东西中扮演角色。

闭幕辩论,在Latent Space的会议报道中有所涉及,将两种立场放在同一个舞台上。HumanLayer的Dex Horthy不遗余力地表示他并非反对循环,指出Kubernetes就是建立在控制循环之上的,但那是确定性的循环。他担心热情已经超越了工程,他的建议是降低一个抽象层次,而不是提高。Geoffrey站在另一边,称循环不可避免。Mike提供了最诚实的数据点:即使在Anthropic内部,运行Tag的团队报告说,他们在审查和人类理解系统行为的能力上遇到了瓶颈。他们为自己保留的人工检查点现在成了约束。

自主性是在四个循环中各自独立存在的刻度。你可以在高度监督的产品循环内运行完全自主的执行循环。你可以将系统循环交给代理,同时保持目标设定完全由人类完成。有趣的工程问题不是“哪个阵营获胜?”,而是“你需要什么信息来正确设置每个刻度?”

上表是我填补这些空白的尝试。每个循环,包括顶层循环,都有一个可命名的退出条件,而顶层循环就是你。但命名信号不等于连接信号。没有信号的循环不会收敛。它只是运行直到外部事物停止它。要知道你的循环是否在生产规模上实际关闭,意味着持续扫描轨迹并聚类失败,而不是抽查记录,这正是Arize AX构建的目的。

你在构建哪一个?

现在循环有了名字,这就是要问的问题。“循环”这个词这个月被大量使用,因为这个领域最喜欢追逐下一个热点。但所有四种循环背后都有真正的实践,而且每种实践都一样:人们正在提高抽象层次,并将人类判断推上堆栈。这才是循环的真正教训。通过爬上堆栈,我们完成更多工作,现在你有了地图,你知道应该爬到哪里。