本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

分散認識ルーブリック報酬とGRPOによるLLMの心臓医療質問応答の改善

記事の要約

研究者らは分散認識報酬フレームワークを提案し、GRPOを用いてLLMを心臓医療質問応答で事後学習させた。HealthBenchサブセットでQwen3-14Bの精度を0.362から0.502に、F1を0.532から0.668に向上させ、GPT-OSS-120Bの性能に迫った。

ソースarXiv Computational Linguistics著者: Arash Ahmadi, Parisa Masnadi, Sarah Sharif, Charles Nicholson, David Ebert, Mike Banad
分散認識ルーブリック報酬とGRPOによるLLMの心臓医療質問応答の改善
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

大規模言語モデル(LLM)は医療分野で大きな可能性を示しているが、実世界への展開にはデータプライバシーの制約、推論コスト、エッジデバイスやオンデバイスでの利用の難しさといった課題が残る。これらの課題から、より小型で効率的なモデルの開発が求められており、信頼性の高い医療推論を確保するための堅牢な事後学習戦略が必要とされている。

本研究では、心臓関連の医療質問応答において、RaR-Medicineに由来するルーブリックに基づく監督を用いてLLMを事後学習するためのGroup Relative Policy Optimization(GRPO)を検討している。研究チームは既存手法の限界を指摘する。ルーブリックは通常、重み付き二値基準の集約や単一の全体的なリッカート尺度スコアとして利用され、多基準で疎であり、自動検証が困難なフィードバックを十分に捉えられない。

そこで論文は「分散認識報酬フレームワーク(Variance-Aware Reward Framework)」を提案する。これはRubrics as Rewardsの明示的集約と暗黙的集約の戦略を拡張し、重み付き二値基準集約と単一の全体スコアを、基準レベルのルーブリック結果から導出される連続的な解析的報酬関数に置き換える。この定式化により、疎で多基準かつ自動検証が困難なフィードバックに対してより豊かな最適化シグナルが得られ、オンポリシー強化学習がより安定する。

実験はHealthBenchの心臓関連サブセット(ホールドアウト)で実施された。その結果、最良のGRPO変種はQwen3-14Bベースモデルと比較して、精度を0.362から0.502へ、F1を0.532から0.668へ向上させた。これはGPT-OSS-120B(精度0.508、F1 0.674)と比べても競争力のある性能である。

著者らは、注意深く設計されたルーブリックベースの報酬が、心臓関連の医療質問応答を改善するための実用的な戦略を提供し、他のルーブリックベースのタスクにも拡張できる可能性があると結論付けている。本論文は全27ページで、2026年4月17日に投稿され、計算と言語(cs.CL)および人工知能(cs.AI)の分野に属する。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 分散認識報酬フレームワークを導入し、ルーブリック基準を連続的な解析的報酬関数に変換して、より豊かな最適化シグナルを実現。
  • 最良のGRPO変種は、心臓関連のHealthBenchホールドアウトサブセットでQwen3-14Bの精度を0.362から0.502に、F1を0.532から0.668に改善。
  • 改善された14BモデルはGPT-OSS-120B(精度0.508、F1 0.674)と競合する性能を維持。
  • この手法は他のルーブリックベースのタスクへの拡張可能性を示す。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。