AI News HubLIVE
站內改寫5 分鐘閱讀

迴圈到底是什麼?

本文深入探討了AI工程中“迴圈”概念的四種不同架構:執行迴圈、任務迴圈、產品迴圈和系統迴圈,並分析了它們之間的關係及其在自動化開發中的應用。文章還討論了圍繞迴圈的炒作與實際實踐之間的差距,以及人類在其中的監督角色。

來源O'Reilly AI & ML Radar作者: Laurie Voss

本文最初發表於LinkedIn,經作者授權轉載。

我們正處於炒作週期的頂峰。6月7日,Peter Steinberger發帖稱,你不應該再提示編碼代理,而應該設計迴圈來提示你的代理。同周,Anthropic的Boris Cherny在臺上表示,他不再提示Claude:“我編寫迴圈,迴圈完成工作。”Addy Osmani於6月7日發表了名為“迴圈工程”的文章,swyx於6月12日發表了“Loopcraft:堆疊迴圈的藝術”,LangChain於6月16日發表了“迴圈工程的藝術”。隨後舉行的AI工程師世界博覽會(AI Engineer World's Fair)上,這個詞主導了主舞臺。Swyx的主題演講是關於Loopcraft的,整個軌道專門討論軟體工廠,一位又一位演講者都提到了同一個詞,會議於7月2日閉幕,最後進行了一小時的辯論,討論關於迴圈的炒作是否已經超越了實際有效的做法。

問題是,談論迴圈的人並不都在討論同一件事。我數了至少四種不同的架構隱藏在同一個詞背後。因此,本文旨在釐清每個人的意思。

執行迴圈:代理自身的行動-觀察週期

這是大多數人提到“代理”時想象到的迴圈:呼叫工具、讀取結果、決定下一步行動,並重復直到沒有更多工具呼叫。這就是Addy所說的內部執行迴圈,代理現在可以很大程度上自行執行這部分,這是你可以設計的最內層迴圈。(swyx的堆疊中有一個令牌迴圈,但沒人設計令牌迴圈。它只是模型的一部分。)

執行迴圈在一個任務內迭代步驟。它根據環境反饋結束:測試輸出、API響應、檔案內容。人類通常在此期間缺席,出現在邊界上,批准計劃或審查結果。執行迴圈還會在代理認為完成時結束,無論是否真的完成。該領域發現的第一個解決方案是將此迴圈包裝在另一個不輕信代理的迴圈中。

任務迴圈:重啟代理直到滿足規範

這是第一個被命名的迴圈,即Geoffrey Huntley的Ralph迴圈。在AI工程師世界博覽會的主舞臺上,Keycard的Allie Howe在介紹軟體工廠環節時引用了Geoffrey的文章《一切都是Ralph迴圈》,從而提到了這個名稱。Ralph迴圈反覆重啟程式碼代理,每次迭代分配全新的上下文視窗,每個迴圈只執行一個任務。明顯的浪費恰恰是關鍵點:每次都重新提供完整規範,防止了長期執行會話中悄悄發生的上下文腐爛和壓縮事件。

此迴圈迭代的是單個工件。結束迴圈的條件是符合規範並透過測試。人類編寫規範並判斷完成度,在Geoffrey的描述中,人類還有一個額外的任務,我稍後會回到這一點:觀察迴圈,發現失敗模式,並修復它們以防止再次發生。在會議最後一天的閉幕辯論中,他將這個角色比作機車工程師,其全部工作就是確保火車在軌道上執行。然而,如果從單個規範中抽離出來,一個更大的迴圈就浮出水面:管理整個程式碼庫的迴圈。

產品迴圈:軟體工廠

這是在AI工程師世界博覽會上最響亮的版本。Factory的Tereza Tizkova將軟體工廠定義為“整個迴圈,自主開發軟體的整個生命週期”。Warp的Zach Lloyd在與Latent Space的採訪中具體說明了這個生命週期:分類、規範、實現、審查、驗證、釋出和監控。Zach聲稱,軟體工程變成了工廠工程,你將要構建構建產品的東西。Warp正在內部實踐這一點:該公司將其開原始碼庫置於工廠平臺Oz的控制之下。Zach將採用路徑描述為從低風險倉庫開始,並將自動PR合併率從20%逐步提高到60%。Anthropic似乎也在內部進行同樣的實驗。該公司表示,其產品團隊65%的程式碼現在由其內部版本的Claude Tag建立,Mike Krieger在博覽會上描述其團隊的使用方式為委託式和主動式:不是“修復這個錯誤”,而是對這個程式碼庫的這部分負責,監控這個反饋渠道,並自行挑選任務。

任務迴圈和執行迴圈有明確的退出條件。產品迴圈迭代程式碼庫及其待辦事項,持續進行,其關閉訊號完全來自程式碼庫外部:新問題、生產日誌、使用者反饋、審查結果。人類的角色變為可配置的。在Zach的框架中,你可以選擇生命週期中需要自動化的部分以及人類介入的點,組織在諸如高風險變更是否需要人工審查等問題上存在分歧。工廠改進產品。下一個迴圈改進工廠本身。

系統迴圈:自動研究

Introspection的Roland Gavrilescu稱之為自動研究。他在Latent Space採訪中這樣闡述這個概念:內部迴圈是面向使用者的主要系統,外部迴圈研究並維護主要系統。它迭代提示、工具、模型選擇和評估本身。他的金句是:迴圈就是產品。

這種模式現在在大小規模上都有真實存在。最小的情況是Andrej Karpathy在2026年3月提出的自動研究,大約630行Python程式碼,在一臺GPU上過夜執行了50次假設-編輯-評估實驗。已釋出的情況是Meta在6月底宣佈的Brain2Qwerty v2,研究人員報告說,代理迭代修改程式碼庫以發明更好的解碼架構,從而顯著提高了詞錯誤率。Meta的說明具有啟發性:最終訓練配置仍然是手動選擇的。即使是旗艦系統迴圈,也在最後一個檢查點保留了人類。

結束此迴圈需要最嚴格的訊號集:評估、評判、過濾後的產品反饋,以及Roland設計中的顯式“詢問人類”工具,代理透過該工具積累隱性知識,就像新員工一樣。這就是堆疊的頂部。將四種迴圈放在一起,整個系統的形狀就可見了。

四種迴圈並列

Agentic MapReduce怎麼樣?

同周有一個著名的模式被故意排除在外。Cognition的Devin Security Swarm將並行的有界代理分發到倉庫中,並聚合它們的發現,該公司稱之為Agentic MapReduce,它被稱為一種迴圈。我認為它不是一個迴圈。分發、收集、驗證是一個管道:沒有任何反饋進入下一個週期,而沒有反饋的迴圈只是一個for語句。扇出是一種可以在任何四個迴圈內部部署的拓撲結構,而不是單獨的迴圈。

頂部的無名迴圈是監督迴圈

在swyx的迴圈圖中,最外層的環,即製造迴圈的迴圈之上的那一層,被標記為“????迴圈”。其動詞是“設定目標、分配、剔除”。退出條件列為無。

我認為這個迴圈有名字。我稱之為監督迴圈:這裡設定目標、分配預算、剔除工作,這是人類應該佔據的唯一一環。Addy在AIEWF的舞臺上說:“內部迴圈是能力。外部迴圈是自主性。”自主性正是監督迴圈所擁有的。

AIEWF上最尖銳的分歧,一旦你翻譯過來,都是關於誰執行這個頂層迴圈的爭論。Zach和Roland主張調高刻度:有意識地選擇檢查點,隨著信任的積累逐步提高自主性,並且用Roland令人難忘的區分來說,在建造工廠之前先建造管絃樂隊,其中管絃樂隊是一個保持人類指揮的系統。另一方則認為刻度有終點。Notion的Geoffrey Litt在X上稱工廠是一種令人沮喪的願景,並在隨後發表為文章的一次演講中辯稱,那些將理解委託給代理的人將會被代理取代。Paul Bakaus直言不諱:“沒有自動,也不會有自動。”他的論點不僅關乎質量,還關乎所有權。人們需要目標,他們希望在自己創造的東西中扮演角色。

閉幕辯論,在Latent Space的會議報道中有所涉及,將兩種立場放在同一個舞臺上。HumanLayer的Dex Horthy不遺餘力地表示他並非反對迴圈,指出Kubernetes就是建立在控制迴圈之上的,但那是確定性的迴圈。他擔心熱情已經超越了工程,他的建議是降低一個抽象層次,而不是提高。Geoffrey站在另一邊,稱迴圈不可避免。Mike提供了最誠實的資料點:即使在Anthropic內部,執行Tag的團隊報告說,他們在審查和人類理解系統行為的能力上遇到了瓶頸。他們為自己保留的人工檢查點現在成了約束。

自主性是在四個迴圈中各自獨立存在的刻度。你可以在高度監督的產品迴圈內執行完全自主的執行迴圈。你可以將系統迴圈交給代理,同時保持目標設定完全由人類完成。有趣的工程問題不是“哪個陣營獲勝?”,而是“你需要什麼資訊來正確設定每個刻度?”

上表是我填補這些空白的嘗試。每個迴圈,包括頂層迴圈,都有一個可命名的退出條件,而頂層迴圈就是你。但命名訊號不等於連線訊號。沒有訊號的迴圈不會收斂。它只是執行直到外部事物停止它。要知道你的迴圈是否在生產規模上實際關閉,意味著持續掃描軌跡並聚類失敗,而不是抽查記錄,這正是Arize AX構建的目的。

你在構建哪一個?

現在迴圈有了名字,這就是要問的問題。“迴圈”這個詞這個月被大量使用,因為這個領域最喜歡追逐下一個熱點。但所有四種迴圈背後都有真正的實踐,而且每種實踐都一樣:人們正在提高抽象層次,並將人類判斷推上堆疊。這才是迴圈的真正教訓。透過爬上堆疊,我們完成更多工作,現在你有了地圖,你知道應該爬到哪裡。