現代編碼智慧體越來越多地將專業子任務委託給子智慧體——這些更小、更專注的智慧體迴圈負責搜尋、除錯或終端執行等狹窄職責。這種架構模式透過將冗長輸出(如構建日誌、測試結果等)隔離在子智慧體上下文中,保持主智慧體的上下文視窗清潔。通常,智慧體在執行此類任務時會使用前沿模型作為子智慧體,例如Claude Sonnet、Opus或GPT-5.3-Codex,但這些模型成本高昂,且可能因上下文過長導致效率下降。
在最近的一篇論文中,來自研究機構的Spandan Garg、Vikram Nitin和Yufan Huang探究了經過微調的小語言模型(SLM)是否能在智慧體終端執行任務中達到與前沿模型相當的效能。他們提出了Terminus-4B,這是一個基於Qwen3-4B的後訓練模型,透過監督微調(SFT)和基於規則的LLM作為評判的強化學習(RL)專門針對此項任務訓練。該方法使用預定義的評分規則,由另一個LLM評估子智慧體的輸出質量,從而引導模型最佳化。
研究團隊在涵蓋多種前沿模型、訓練消融實驗和主智慧體配置的廣泛評估中,對Terminus-4B進行了測試。他們使用了SWE-Bench Pro基準測試以及一個內部構建的SWE-Bench C#基準測試,後者包含大量需要冗長終端執行的任務,例如編譯和測試執行。實驗結果顯示,與不使用子智慧體的基線相比,Terminus-4B能夠將主智慧體的令牌使用量減少高達約30%,同時不影響其在兩個基準測試上的效能。這意味著模型在大幅降低計算成本的同時,仍能保持與高階模型相當的準確性。
此外,Terminus-4B還改善了關鍵指標,表明主智慧體更加依賴子智慧體的輸出,並減少了自身執行的終端任務。研究人員觀察到,該模型不僅縮小了原始Qwen模型與前沿模型之間的差距,而且往往甚至超越了它們的效能。例如,在SWE-Bench Pro上,Terminus-4B的修復率超過了Claude Sonnet和Opus,而Claude Opus通常被認為是編碼領域的領先模型。這一發現表明,經過適當訓練的小模型可以在特定智慧體任務中替代昂貴的前沿模型,為更高效、更具成本效益的AI系統鋪平道路。
該研究的潛在影響深遠:首先,它可能改變模型選型策略,使開發者更傾向於使用專門化的小模型而非通用大模型;其次,推理成本有望顯著降低,因為小模型的運營成本更低;第三,產品能力可能透過更多子智慧體的協作得到增強;最後,現有的評測基準可能需要重新校準,以反映小模型在特定任務中的競爭力。不過,研究的侷限性在於其僅關注終端執行任務,其他型別的子任務(如搜尋或除錯)是否同樣適用尚需驗證。