用於ARC-AGI-1抽象推理和泛化的成本效益代理框架
研究者提出了兩種成本效益高的代理架構——探索-定義管道和反思性協調器,在ARC-AGI-1基準上分別達到57.50%和67.25%的pass@2,成本僅為每任務0.25美元和0.62美元,無需基準特定訓練或大量測試時計算。
arXiv上的一篇新論文提出了兩種成本效益高的代理架構,用於解決ARC-AGI-1基準測試中的抽象推理和泛化問題。該研究由Kabir Moghe等人進行,採用開放權重模型DeepSeek V3.2的非思考模式,在嚴格預算下,不進行任何ARC特定的微調,探索僅通過架構設計獲得的性能提升。
研究者首先引入了探索-定義管道(Explorer-Definer Pipeline),這是一個兩階段代理流程。第一階段負責模式探索,第二階段則基於發現的模式定義和執行轉換。這種方法明確分離了模式發現與可執行轉換合成,避免了傳統方法中的耦合問題。在ARC-AGI-1公共400任務評估集上,該管道達到了57.50%的pass@2,每任務成本僅0.25美元。
為進一步提升性能,團隊提出了反思性協調器(Reflective Orchestrator)。當管道生成的假設在訓練對上失敗時,協調器能夠自主探索新的轉換,而不是簡單地重新排序或重試。這種自適應重新探索機制將性能提升至67.25% pass@2,每任務成本0.62美元。整體上,這些架構將15.50%的單次基線提升了約52個百分點,且無需基準特定訓練或大量測試時計算,展示了一條極具成本效益的路徑。
論文還通過協調器驅動的提升測試了管道產生的可證偽診斷。無偏的pass@k分析表明,管道是生成受限而非選擇受限的——通過訓練對準確率進行選擇能捕獲約95%的候選上限,這意味着顯著改進需要更廣泛的生成能力,而非更好的排序策略。協調器通過自適應重新探索實現了這一預測,並確認了無偏pass@1提升9.81個百分點,與選擇介導的pass@2提升相匹配。此外,管道消融實驗確定其思考工具是一個重要組件,移除後pass@2降低5.75個百分點,進一步驗證了各模塊的貢獻。
這項研究的價值在於,它證明了在不依賴大量計算資源或專門訓練的情況下,通過巧妙的代理架構設計即可在抽象推理任務上取得顯著進步。這對於資源受限的研究團隊和實際應用具有重要意義,同時也為未來推理系統的設計提供了新的思路。