本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

エージェントRLのスケーリング:SWE、ターミナル、検索向け36万5千の環境

記事の要約

Prime Intellectは23のオープンソースエージェントタスクセットを統一APIに統合し、ソフトウェアエンジニアリング、ターミナル、検索分野の強化学習トレーニングと評価向けに36万5千以上の環境を提供します。すべてのタスクはゴールドパッチおよびノーオペレーション検証を経て、クリーンな報酬信号を保証します。

ソースHacker News AI著者: anacleto
エージェントRLのスケーリング:SWE、ターミナル、検索向け36万5千の環境
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

オープンリサーチエコシステムは、エージェントの主要3ドメイン(ソフトウェアエンジニアリング、ターミナル使用、ウェブ検索)向けに多くの優れたデータセットを生み出してきました。しかし、各データセットは独自のテストハーネス、イメージ規約、スコアリングスクリプト、障害モードを持ち、それらを協調して使用することは困難でした。Prime Intellectはこれらのタスクセットを統一的taskset APIの下に統合し、強化学習トレーニングと評価のための36万5千以上の環境を提供します。

統一的taskset APIは23のタスクセットをサポートし、約19.8万のソフトウェアエンジニアリングタスク(20以上の言語)、約2.86万のターミナルタスク、約13.76万の検索タスクを含みます。これらのタスクはverifiers v1ツールによって標準化され、各環境はタスクセット、ハーネス、ランタイムの3つの独立した層に分解されます。ユーザーは単一のコマンドで任意のタスクセットの評価を実行できます。例:uv run eval scaleswe-v1 --harness.id codex --harness.runtime.type prime -n 3。

データ品質を確保するため、Prime Intellectは各データセットに対してゴールドパッチおよびノーオペレーション検証を実施しました。ゴールドパッチ検証では、参照修正の適用後にすべてのテストが合格することを確認し、ノーオペレーション検証では修正なしですべてのテストが不合格になることを確認します。検証では、失敗を不安定性と決定的な障害に区別するために最大10回の再試行が行われ、独立した2回目のパスと複数の編集なしパスが実行されました。条件を満たさないタスクは除外され、再アップロードされたデータセットに記録されて監査可能です。例えば、R2E-Gymの4,578インスタンスのうち4,522が検証に合格し、SWE-Legoの4,432のうち4,323が合格、Multi-SWEの2,232インスタンスは2回のゴールドパッチと編集なしフィルタを通過しました。

ソフトウェアエンジニアリング分野では、SWE-bench Verified(500インスタンス)、SWE-bench Multilingual(8言語300インスタンス)、SWE-smith(88,130インスタンス)、R2E-Gym(4,578インスタンス)、Multi-SWE(4,703コンテナ化RLインスタンス)、SWE-rebench-V2(32,079タスク)、Scale-SWE(20,181 Pythonタスク)、SWE-Lego(4,432実データインスタンス)、OpenSWE(45,320タスク)、Senior SWE-Bench(50調査・設計タスク)などが統合されています。フィルタリングおよび検証済みの再アップロードはすべてHugging FaceのSWE RLコレクションで公開されており、各データセットには元のデータセットとの差分、検証方法、除外記録が文書化されています。

ターミナルタスクとしては、Terminal-Lego(約13,800のDocker検証可能タスク)が含まれます。検索タスクセットは、PaperSearchQA、WideSeek、s1_deepresearch、OpenSeeker、DeepDive、BrowseComp、RedSearcher、BrowseComp_Plusなどで構成され、合計約13.76万タスクです。

Prime Intellectはまた、約13.5万のプリビルドオープンソースタスクイメージを含む共有イメージレジストリを構築し、サンドボックスと同一場所に配置することで、大規模並行ロールアウト時のDocker Hubレート制限を回避しています。実行中は、スコアリング材料(テストパッチ、期待出力など)は隠蔽され、スコアリング時のみ復元されるため、エージェントがコンテナ内の情報を利用して報酬を不正取得することを防止します。この統一プラットフォームにより、研究者や開発者は異なるデータセットの互換性問題を気にすることなく、多様な環境でエージェントをトレーニングおよび評価できます。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 統一taskset APIは23のタスクセットをカバー:ソフトウェアエンジニアリング約19.8万、ターミナル約2.86万、検索約13.76万タスク。
  • verifiers v1は環境をタスクセット、ハーネス、ランタイムの3層に分解し、標準化された評価とトレーニングを実現。
  • すべてのデータセットは厳格に検証され、クリーンな報酬信号を生成できないタスクを除外したクリーンバージョンが再アップロードされている。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。