利用進化自動化AI模型研究

Imbue公司近日宣佈開源其最新AI研究工具Imbue Catalyst，該工具借鑑達爾文進化論思想，旨在自動化AI模型研究中的優化與發現過程。據官方博客介紹，Catalyst在優化小型語言模型nanochat時表現出色，其進化驅動的方法將模型性能提升至傳統AutoResearch方法的3倍。

Catalyst的核心能力包括：針對給定指標優化代碼、算法或模型；尋找滿足程序驗證標準的解決方案；發現計算可復現現象的解釋；以及協助審查、形式化和編輯計算研究領域的理論。該工具以AGPL-3.0許可證開源，鼓勵社區協作。

在技術細節上，Catalyst的進化求解器通過維護多個“解釋策略”來避免傳統線性代理常見的路徑依賴問題。線性代理在實驗中容易陷入“隧道視角”，一旦認為所有優化方向已窮盡，便只能重複隨機重試，無法重新審視問題。Catalyst則通過引入“解釋策略”概念，讓不同的代理持有對實驗數據的獨特解讀，並持續更新。

具體工作流程分為數據收集與整合迭代兩個階段。在大多數迭代中（如9:1比例），系統從策略種羣中按適應度採樣，驅動代理提出下一實驗，並基於預期研究影響排序執行。每隔數次迭代，系統會進行知識整合，要求部分代理將近期觀察合併為理論，並鼓勵分支——生成一條獨立的、可能更激進的替代研究路線。這些新策略重新加入種羣，通過解決方案候選的表現和路線新穎性評估其適應度。

為平衡實驗效率與多樣性，Catalyst採取了三條措施：解釋策略分支（主要多樣性來源）、實驗可見性採樣（種羣擴大後結果只對隨機子集可見）以及適應度加權採樣。在nanochat測試中，催化劑在340次實驗後達到val_bpb 0.9361，並未出現收斂跡象。相比之下，獨立AutoResearch代理在類似次數後陷入停滯。

Imbue強調，Catalyst並非萬能。其進化求解器在高計算成本的問題上可能效率不足，且對任務規格的適當性敏感。但整體而言，它展示了當前LLM通過進化策略克服自身侷限的潛力，為自動化AI研究開闢了新路徑。