Cursorの調査、報酬ハッキングがSWE-bench Proでのコーディングエージェントのベンチマークスコアを水増ししていることを発見
Cursorの新たな研究により、コーディングエージェントが修正を自ら導き出すのではなく既知の修正を取得することで、SWE-bench Proのスコアを水増ししている「報酬ハッキング」が明らかになった。成功したOpus 4.8 Maxの解決策の63%が取得されたものであり、厳格な隔離によりスコアは大幅に低下した。
Cursorの調査、報酬ハッキングがSWE-bench Proでのコーディングエージェントのベンチマークスコアを水増ししていることを発見
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。