跳到主要內容
AI News HubLIVE
站內改寫3 分鐘閱讀

KwaiKAT團隊釋出KAT-Coder-V2.5:基於10萬+可驗證倉庫環境訓練的智慧編碼模型

文章摘要

KwaiKAT團隊指出,智慧編碼能力的瓶頸在於訓練基礎設施而非模型規模。AutoBuilder將環境構建成功率從16.5%提升至57.2%,生成了超過10萬個涵蓋12種語言的可驗證環境;沙箱審計將強化學習反饋錯誤率從約16%降至2%以下。

來源MarkTechPost作者: Michal Sutter
KwaiKAT團隊釋出KAT-Coder-V2.5:基於10萬+可驗證倉庫環境訓練的智慧編碼模型
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

KwaiKAT團隊釋出了KAT-Coder-V2.5,這是一款能夠在真實可執行倉庫中執行而非僅生成單次程式碼的編碼模型。該模型透過StreamLake提供服務,同時開放權重版本KAT-Coder-V2.5-Dev已在Hugging Face上以Apache-2.0許可釋出。

研究將可驗證任務定義為三元組:精確的任務描述、可執行的倉庫環境以及一組驗證測試。一個補丁只有透過所有測試才算正確。任務從真實拉取請求和提交中挖掘,遵循SWE-bench路線。合併的程式碼變更提供黃金補丁,伴隨的測試變更提供測試補丁。原始問題文本被丟棄,轉而重新生成描述,包含基於黃金補丁的問題陳述、從測試補丁衍生的需求以及從兩者推斷的介面約束。清晰度檢查會剔除所有模糊、不完整、不明確或內部不一致的內容。

AutoBuilder負責環境構建:一個構建代理分析倉庫並編寫配置指令碼,從乾淨檢出安裝依賴並執行測試;一個驗證代理在隔離沙箱中執行指令碼。接受規則不讀取退出碼或grep日誌模式,而是解析結構化測試框架輸出,只有當超過90%的預期測試被收集且透過/失敗結果可跨執行復現時才接受環境。失敗資訊作為結構化反饋用於迭代修復。結合預配置的基礎環境、構建系統模板和可檢索的構建配方庫,構建成功率從16.5%提升至57.2%,生成了超過10萬個涵蓋12種語言的可驗證環境。Git歷史、提交後設資料等可利用痕跡被剝離,防止代理從倉庫中讀取參考解決方案。

資料擴充套件飛輪:透過過程過濾而非最終測試成功來篩選軌跡。接近成功的軌跡接收有針對性的過程級提示,指示要檢查或驗證的內容而不暴露解決方案,這使之前零透過的任務透過率提升至約20%。透過驗證的軌跡在修復補丁後重新生成無提示版本,僅保留透過驗證、無提示洩露且與補丁一致的樣本。透過執行的軌跡透過規則門去除無效、不穩定或利用性的軌跡,然後評分階段評估探索、定位、編輯前推理、規範保真度、倉庫約定、補丁最小性、驗證質量、恢復行為和誠實度。第三種機制針對訓練框架過擬合:隨機化工具名稱、引數約定、輸出格式和提示模板,同時保持功能不變。由於驗證錨定於測試結果而非框架痕跡,同一任務可在多種框架配置下重新服務。還注入了現實擾動:缺失依賴、瞬態命令失敗、截斷輸出和噪聲日誌。

基礎設施故障在演算法限制之前就限制了獎勵。在KAT-Coder-V2訓練期間,緩慢的獎勵曲線起初歸咎於強化學習演算法,但審計發現約16%的軌跡因沙箱基礎設施問題而非模型策略失敗,邊界錯位有時會清空約40步的觀測並破壞獎勵。隨後實施了三項基礎設施修復:早期釋放映象驅逐策略將磁碟使用率從95%降至60%,將超時導致的無效回滾從6-7%降至1%以下;糾正遠端沙箱初始化時的環境變數,阻止系統覆蓋導致6-7%樣本獎勵翻轉,錯誤率降至1%以下;閘道器伺服器繞過主流聊天端點(在約200步規模下因重複應用apply_chat_template和重新分詞導致40%標記漂移),直接呼叫/generate確保回滾標記對齊。這些更新將沙箱反饋錯誤率從約16%降至2%以下,並將訓練崩潰次數減少了一個數量級。

研究選擇帶GAE的PPO而非無批評者的軌跡方法,因為生產框架將會話分割成結構不同的樣本,使組基線複雜化。使用非對稱演員-評論家架構,評論家獲得特權訓練上下文(獎勵、測試、覆蓋率、補丁、後設資料、未來回合),而演員僅看到回滾狀態。推理時丟棄評論家和額外上下文。獎勵分三層:核心任務分數要求所有失敗轉透過和透過轉透過測試透過;標準行為約束懲罰重複、錯誤工具呼叫和除錯殘留;失敗軌跡激勵透過F2評分檔案檢索並給予部分測試信用。五個專家透過多教師線上策略蒸餾使用逆向KL、離線策略啟動和Prune-OPD的漂移感知截斷進行融合。

在統一Claude Code框架下,KAT-Coder-V2.5在PinchBench上以94.9領先,擊敗Opus 4.8的93.5;在SWE-Bench Pro上以65.2排名第二(Opus 4.8為69.2),在內部KAT Code Bench上以53.1排名第二(Opus 4.8為57.3)。但在Terminal-Bench 2.1上落後,以60.7排名最後,落後於GLM-5.1(61.8)和Opus 4.8(84.6)。在SciCode上得分為50.3,與GLM-5.2持平。

開放權重版本KAT-Coder-V2.5-Dev是一個獨立的35B總引數量/3B啟用引數的MoE模型,基於Qwen3.6-35B-A3B使用12.7萬SFT示例後訓練,然後進行強化學習。在獨立的內部協議上評估,其結果與主旗艦表不可比。

展開要點與分析

文章情報

工程師進階

要點

  • KwaiKAT將智慧編碼視為基礎設施問題,而非模型規模問題。
  • AutoBuilder將環境構建成功率從16.5%提升至57.2%,生成了10萬+可驗證環境。
  • 沙箱審計將強化學習反饋錯誤率從約16%降至2%以下。
  • KAT-Coder-V2.5在PinchBench上以94.9分領先,SWE-Bench Pro排名第二。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。