Ai2への別れ

Nathan Lambert氏は、アレン人工知能研究所（Ai2）を去ることを発表しました。彼はそこで2年間を過ごし、Olmoモデルシリーズの開発、特にポストトレーニングに深く関わりました。この別れの記事で、彼は自身の経歴を詳細に振り返り、オープンリサーチが今日のAI発展において果たす重要な役割を強調しています。

Lambert氏の学術的な出発点は、カリフォルニア大学バークレー校の電気工学・コンピュータ科学博士課程であり、当初は微小電気機械システム（MEMS）を研究していました。しかし、2017年に入学した後、AIこそが自分の本当にやりたいことだと気づきました。初期は指導を受けるのに苦労しましたが、その後チャンスを得て、2022年に博士号を取得しました。卒業後、彼はHuggingFaceに入社しましたが、当初は進展が遅く、ChatGPTのリリース後に自身の強化学習のバックグラウンドを活かしてRLHFに関するブログ記事を書き、それがバイラルヒットしました。この成功を受けて、HuggingFaceは彼にチームを率いることを許可しました。

2023年、彼はICMLでAi2のLuca Soldaini氏と出会い、Ai2への参加を勧められました。Ai2では、Olmoモデルの開発に貢献し、Tülu 3プロジェクトを主導しました。Tülu 3では、Llama 3のベースモデルを使用してその公式ポストトレーニングを上回る性能を達成し、「検証可能な報酬による強化学習」（RLVR）という用語を初めて導入しました。また、初の報酬モデル評価ベンチマークであるRewardBenchも作成しました。

Lambert氏は、Ai2が学界と産業界の間に位置するユニークな機関であり、オープンな方法で最も重要な技術を探求し影響を与えることができると述べています。彼は、オープンであることが技術を安全にすべての受益者に広める最善の方法だと強調しています。また、自身のキャリアにおける重要な転機として、ChatGPTのリリース後にRLHFに注力したことが業界での注目を集めるきっかけとなったことを挙げています。

自身の役割を総括するにあたり、Lambert氏は3つのコアミッションを挙げています：フロンティアモデルの進化に明確さを提供すること、活気に満ちた多様なオープンモデルエコシステムを構築すること、そして上記のミッションを推進する人材やアイデアを生み出す機関を設立することです。彼は、AI技術がますます閉鎖的になる中で、オープンリサーチャーの役割がこれまで以上に重要になっていると述べています。また、多くの上級科学者が閉鎖的なエコシステムに引き寄せられていることが、彼自身の世代の科学者が急速に成長する余地を生んだと分析しています。

Ai2を去った後も、Lambert氏はオープンエコシステムに関する活動を継続し、ブログの執筆やコミュニティへの参加を続けると述べています。彼はAi2に対して、AIが地政学的にも社会的にも大きな影響を持つようになる中で、独立した声を発信し続けるよう励ましています。実現可能な計画を書き、人々を納得させることが成功への鍵であり、関係構築と情報発信の重要性を強調しています。彼の経験は、無名の研究者からでも、適切な環境と継続的な努力によって大きな影響を及ぼすことができることを示しています。