進化を利用してAIモデル研究を自動化

Imbue社は、進化のアイデアを取り入れたAI研究ツール「Imbue Catalyst」をAGPL-3.0ライセンスでオープンソース化した。このツールは、コードやアルゴリズムの最適化、プログラム検証条件を満たす解の発見、計算的に再現可能な現象の説明、そして計算研究分野における理論のレビュー・形式化・編集を支援する。

特に小規模トランスフォーマー言語モデルnanochatの最適化において、Catalystの進化ベースソルバーは従来のAutoResearch手法を大幅に上回る成果を示した。計測ではval_bpbスコア0.9361を達成し、340回の実験後も改善の余地が見られた。

なぜ線形エージェントは行き詰まるのか？ 単一エージェントを用いた実験では、エージェントが「すべての最適化アイデアを使い果たした」と結論づけ、乱数シードを変えて同じ設定を繰り返すだけになる現象が観察された。これは一種のトンネルビジョンであり、仮説の崩壊を伴う。さらに、実験結果の解釈において確証バイアスや知覚エラーが見られることも問題を悪化させる。

Catalystはこれらの問題を克服するため、解釈ストランド（interpretation strand）という概念を導入する。各ストランドは、観測された実験や文献調査に対するエージェントの現在の解釈と研究ロードマップを保持する。Catalystは単一ではなく、複数の解釈ストランドの集団を維持し、進化のプロセスを通じてそれらを更新する。

動作の流れは以下の通り：まず、現在の適応度に基づいてストランドをサンプリングし、各ストランドに対して次の実験を提案させる。提案された実験は研究インパクトでランク付けされ、上位のものが実行される。実験結果はサンプリングされたストランドのスーパーセットに提示され、それぞれの解釈が更新される。数回の反復ごとに、知識統合とスコアリングが行われる。統合では、ストランドが最近の観測を理論にまとめ、ロードマップを改訂する。さらに、分岐として、現在の理論から別の継続を生成することが求められ、これが新たなストランドとして集団に加わる。適応度は、各ストランドが提案する解の性能と研究ロードマップの新規性に基づいて計算される。

多様性を確保するため、Catalystは3つの要素を活用する：解釈ストランドの分岐（最も直接的な多様性の源）、実験可視性サンプリング（集団が大きくなると結果をランダムなサブセットにのみ提示）、適応度重み付きサンプリング。これにより、実験効率と多様性のバランスを取っている。

Catalystは万能ではないが、現在のLLMが進化的手法によって自身の限界を克服し、より自律的な研究を行う可能性を示している。Imbue社はコミュニティの貢献を期待している。