本文にスキップ
AI News HubLIVE
その他
要約のみ

Terminal-Bench Challenges:長期間、トークン集約型、シングルタスクベンチマーク

Terminal-Bench Challengesは、人間の専門家が数ヶ月かかるような大規模で長期的なタスクにおけるエージェントの能力をテストするための新しいベンチマーク形式です。最初の3つのチャレンジがリリースされました:Rustコンパイラの高速化、推論エンジンのコードゴルフ、WASM WebGLレンダラー。初期のエージェントの試みはまちまちで、主な失敗モードとして探索の不足とテストスイートの過剰利用が挙げられます。

ソースHacker News AI著者: matt_d
Terminal-Bench Challenges:長期間、トークン集約型、シングルタスクベンチマーク
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Terminal-Bench Challengesは、エージェントが数日かけて大規模プロジェクトを自律的に完了することを要求するシングルタスクベンチマークです。
  • 3つのチャレンジ:Rustコンパイラ高速化、推論エンジンコードゴルフ、WASM WebGLレンダラー。
  • エージェントは探索と効率的なテストに苦戦しており、改善の余地があります。
  • 提出には完全なログと成果物が必要であり、人間の介入は禁止されています。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。