本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

AbundantがModal Sandboxesで効率的なロールアウトアーキテクチャを設計した方法

記事の要約

AbundantはOpenAI、Anthropic、Google、Metaなどのフロンティアラボ向けに強化学習環境を構築。75,000以上のロールアウトを作成し、それぞれがModal Sandboxで実行される。Modal FunctionsがスケジューラAPIを支える。

ソースModal Blog
AbundantがModal Sandboxesで効率的なロールアウトアーキテクチャを設計した方法
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

Abundantは、OpenAI、Anthropic、Google、MetaといったフロンティアAIラボがモデルのトレーニングと評価に利用する強化学習(RL)環境を構築している企業です。ラボはAbundantが設計した難しいタスクをモデルに与え、モデルが試行し、その結果を合格か不合格かで採点することで、エージェントの能力を向上させます。

各タスクは完全な環境を備えたRLロールアウトです。モデルには指示、明確な目標、タスクが完了したかどうかを判断する検証器が必要ですが、それだけでなくインフラストラクチャも必要です。実行のためのコンピューティング、Dockerfile、分離環境が求められ、タスクによってはエージェントがGPUなどのアクセラレータを必要とすることもあります。

Abundantはこれまでに75,000以上のロールアウトを作成してきました。GPUカーネルの最適化から長期間にわたるコーディングまで多岐にわたり、それぞれがModal Sandbox内で実行されます。Modalはロールアウトインフラストラクチャの構築を容易にし、コスト効率の良い運用を可能にするため、Abundantチームはコアビジネスに集中できます。

現在、AbundantのロールアウトプラットフォームのほぼすべてがModal上で動作しています。Modal Functionsは、タスクの開始、停止した実行のクリーンアップ、ロールアウトのレビューを行うAbundantのスケジューラAPIを支えています。Modal Sandboxesはロールアウト環境を提供し、各タスクが分離され、リソースが十分な環境で実行されることを保証します。このアーキテクチャにより、AbundantはRL環境構築ビジネスを効率的に拡大し、フロンティアラボの高品質なトレーニングデータへの需要に応えています。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Abundantが設計するRL環境はOpenAI、Anthropic、Google、Metaによるモデルのトレーニングと評価に使用される。
  • 各ロールアウトにはコンピューティング、Dockerfile、分離環境が必要で、場合によってはGPUも必要となる。
  • AbundantはGPUカーネル最適化から長期的なコーディングまで、75,000以上のロールアウトを構築してきた。
  • Modal FunctionsがAbundantのスケジューラAPIを動かし、Modal Sandboxesがロールアウト環境を提供する。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。