自動化AI研究への第一歩

Recursive社は、自動化AI研究システムの初期成果を発表し、固定予算言語モデル学習、小規模モデル学習速度、GPUカーネル最適化の3つのベンチマークで最先端の性能を達成しました。システムは研究ループ（アイデア提案、実装、実験、検証、反復）を自動化し、NanoChatでは0.9109 BPBを達成してコミュニティの成果を上回り、NanoGPT Speedrunでは学習時間を77.5秒に短縮、SOL-ExecBenchでは0.754のSOLスコアを達成しました。ハッシュテーブルnグラム埋め込みやバイトレベル特徴量などの革新を発見しました。