AI News HubLIVE
站內改寫5 分鐘閱讀

循環到底是什麼?

本文深入探討了AI工程中“循環”概念的四種不同架構:執行循環、任務循環、產品循環和系統循環,並分析了它們之間的關係及其在自動化開發中的應用。文章還討論了圍繞循環的炒作與實際實踐之間的差距,以及人類在其中的監督角色。

來源O'Reilly AI & ML Radar作者: Laurie Voss

本文最初發表於LinkedIn,經作者授權轉載。

我們正處於炒作週期的頂峯。6月7日,Peter Steinberger發帖稱,你不應該再提示編碼代理,而應該設計循環來提示你的代理。同周,Anthropic的Boris Cherny在台上表示,他不再提示Claude:“我編寫循環,循環完成工作。”Addy Osmani於6月7日發表了名為“循環工程”的文章,swyx於6月12日發表了“Loopcraft:堆疊循環的藝術”,LangChain於6月16日發表了“循環工程的藝術”。隨後舉行的AI工程師世界博覽會(AI Engineer World's Fair)上,這個詞主導了主舞台。Swyx的主題演講是關於Loopcraft的,整個軌道專門討論軟件工廠,一位又一位演講者都提到了同一個詞,會議於7月2日閉幕,最後進行了一小時的辯論,討論關於循環的炒作是否已經超越了實際有效的做法。

問題是,談論循環的人並不都在討論同一件事。我數了至少四種不同的架構隱藏在同一個詞背後。因此,本文旨在釐清每個人的意思。

執行循環:代理自身的行動-觀察週期

這是大多數人提到“代理”時想象到的循環:調用工具、讀取結果、決定下一步行動,並重復直到沒有更多工具調用。這就是Addy所説的內部執行循環,代理現在可以很大程度上自行運行這部分,這是你可以設計的最內層循環。(swyx的堆棧中有一個令牌循環,但沒人設計令牌循環。它只是模型的一部分。)

執行循環在一個任務內迭代步驟。它根據環境反饋結束:測試輸出、API響應、文件內容。人類通常在此期間缺席,出現在邊界上,批准計劃或審查結果。執行循環還會在代理認為完成時結束,無論是否真的完成。該領域發現的第一個解決方案是將此循環包裝在另一個不輕信代理的循環中。

任務循環:重啓代理直到滿足規範

這是第一個被命名的循環,即Geoffrey Huntley的Ralph循環。在AI工程師世界博覽會的主舞台上,Keycard的Allie Howe在介紹軟件工廠環節時引用了Geoffrey的文章《一切都是Ralph循環》,從而提到了這個名稱。Ralph循環反覆重啓代碼代理,每次迭代分配全新的上下文窗口,每個循環只執行一個任務。明顯的浪費恰恰是關鍵點:每次都重新提供完整規範,防止了長期運行會話中悄悄發生的上下文腐爛和壓縮事件。

此循環迭代的是單個工件。結束循環的條件是符合規範並通過測試。人類編寫規範並判斷完成度,在Geoffrey的描述中,人類還有一個額外的任務,我稍後會回到這一點:觀察循環,發現失敗模式,並修復它們以防止再次發生。在會議最後一天的閉幕辯論中,他將這個角色比作機車工程師,其全部工作就是確保火車在軌道上運行。然而,如果從單個規範中抽離出來,一個更大的循環就浮出水面:管理整個代碼庫的循環。

產品循環:軟件工廠

這是在AI工程師世界博覽會上最響亮的版本。Factory的Tereza Tizkova將軟件工廠定義為“整個循環,自主開發軟件的整個生命週期”。Warp的Zach Lloyd在與Latent Space的採訪中具體説明了這個生命週期:分類、規範、實現、審查、驗證、發佈和監控。Zach聲稱,軟件工程變成了工廠工程,你將要構建構建產品的東西。Warp正在內部實踐這一點:該公司將其開源代碼庫置於工廠平台Oz的控制之下。Zach將採用路徑描述為從低風險倉庫開始,並將自動PR合併率從20%逐步提高到60%。Anthropic似乎也在內部進行同樣的實驗。該公司表示,其產品團隊65%的代碼現在由其內部版本的Claude Tag創建,Mike Krieger在博覽會上描述其團隊的使用方式為委託式和主動式:不是“修復這個錯誤”,而是對這個代碼庫的這部分負責,監控這個反饋渠道,並自行挑選任務。

任務循環和執行循環有明確的退出條件。產品循環迭代代碼庫及其待辦事項,持續進行,其關閉信號完全來自代碼庫外部:新問題、生產日誌、用户反饋、審查結果。人類的角色變為可配置的。在Zach的框架中,你可以選擇生命週期中需要自動化的部分以及人類介入的點,組織在諸如高風險變更是否需要人工審查等問題上存在分歧。工廠改進產品。下一個循環改進工廠本身。

系統循環:自動研究

Introspection的Roland Gavrilescu稱之為自動研究。他在Latent Space採訪中這樣闡述這個概念:內部循環是面向用户的主要系統,外部循環研究並維護主要系統。它迭代提示、工具、模型選擇和評估本身。他的金句是:循環就是產品。

這種模式現在在大小規模上都有真實存在。最小的情況是Andrej Karpathy在2026年3月提出的自動研究,大約630行Python代碼,在一台GPU上過夜運行了50次假設-編輯-評估實驗。已發佈的情況是Meta在6月底宣佈的Brain2Qwerty v2,研究人員報告説,代理迭代修改代碼庫以發明更好的解碼架構,從而顯著提高了詞錯誤率。Meta的説明具有啓發性:最終訓練配置仍然是手動選擇的。即使是旗艦系統循環,也在最後一個檢查點保留了人類。

結束此循環需要最嚴格的信號集:評估、評判、過濾後的產品反饋,以及Roland設計中的顯式“詢問人類”工具,代理通過該工具積累隱性知識,就像新員工一樣。這就是堆棧的頂部。將四種循環放在一起,整個系統的形狀就可見了。

四種循環並列

Agentic MapReduce怎麼樣?

同周有一個著名的模式被故意排除在外。Cognition的Devin Security Swarm將並行的有界代理分發到倉庫中,並聚合它們的發現,該公司稱之為Agentic MapReduce,它被稱為一種循環。我認為它不是一個循環。分發、收集、驗證是一個管道:沒有任何反饋進入下一個週期,而沒有反饋的循環只是一個for語句。扇出是一種可以在任何四個循環內部部署的拓撲結構,而不是單獨的循環。

頂部的無名循環是監督循環

在swyx的循環圖中,最外層的環,即製造循環的循環之上的那一層,被標記為“????循環”。其動詞是“設定目標、分配、剔除”。退出條件列為無。

我認為這個循環有名字。我稱之為監督循環:這裏設定目標、分配預算、剔除工作,這是人類應該佔據的唯一一環。Addy在AIEWF的舞台上説:“內部循環是能力。外部循環是自主性。”自主性正是監督循環所擁有的。

AIEWF上最尖鋭的分歧,一旦你翻譯過來,都是關於誰運行這個頂層循環的爭論。Zach和Roland主張調高刻度:有意識地選擇檢查點,隨着信任的積累逐步提高自主性,並且用Roland令人難忘的區分來説,在建造工廠之前先建造管絃樂隊,其中管絃樂隊是一個保持人類指揮的系統。另一方則認為刻度有終點。Notion的Geoffrey Litt在X上稱工廠是一種令人沮喪的願景,並在隨後發表為文章的一次演講中辯稱,那些將理解委託給代理的人將會被代理取代。Paul Bakaus直言不諱:“沒有自動,也不會有自動。”他的論點不僅關乎質量,還關乎所有權。人們需要目標,他們希望在自己創造的東西中扮演角色。

閉幕辯論,在Latent Space的會議報道中有所涉及,將兩種立場放在同一個舞台上。HumanLayer的Dex Horthy不遺餘力地表示他並非反對循環,指出Kubernetes就是建立在控制循環之上的,但那是確定性的循環。他擔心熱情已經超越了工程,他的建議是降低一個抽象層次,而不是提高。Geoffrey站在另一邊,稱循環不可避免。Mike提供了最誠實的數據點:即使在Anthropic內部,運行Tag的團隊報告説,他們在審查和人類理解系統行為的能力上遇到了瓶頸。他們為自己保留的人工檢查點現在成了約束。

自主性是在四個循環中各自獨立存在的刻度。你可以在高度監督的產品循環內運行完全自主的執行循環。你可以將系統循環交給代理,同時保持目標設定完全由人類完成。有趣的工程問題不是“哪個陣營獲勝?”,而是“你需要什麼信息來正確設置每個刻度?”

上表是我填補這些空白的嘗試。每個循環,包括頂層循環,都有一個可命名的退出條件,而頂層循環就是你。但命名信號不等於連接信號。沒有信號的循環不會收斂。它只是運行直到外部事物停止它。要知道你的循環是否在生產規模上實際關閉,意味着持續掃描軌跡並聚類失敗,而不是抽查記錄,這正是Arize AX構建的目的。

你在構建哪一個?

現在循環有了名字,這就是要問的問題。“循環”這個詞這個月被大量使用,因為這個領域最喜歡追逐下一個熱點。但所有四種循環背後都有真正的實踐,而且每種實踐都一樣:人們正在提高抽象層次,並將人類判斷推上堆棧。這才是循環的真正教訓。通過爬上堆棧,我們完成更多工作,現在你有了地圖,你知道應該爬到哪裏。