大規模言語モデル(LLM)は医療分野で大きな可能性を示しているが、実世界への展開にはデータプライバシーの制約、推論コスト、エッジデバイスやオンデバイスでの利用の難しさといった課題が残る。これらの課題から、より小型で効率的なモデルの開発が求められており、信頼性の高い医療推論を確保するための堅牢な事後学習戦略が必要とされている。
本研究では、心臓関連の医療質問応答において、RaR-Medicineに由来するルーブリックに基づく監督を用いてLLMを事後学習するためのGroup Relative Policy Optimization(GRPO)を検討している。研究チームは既存手法の限界を指摘する。ルーブリックは通常、重み付き二値基準の集約や単一の全体的なリッカート尺度スコアとして利用され、多基準で疎であり、自動検証が困難なフィードバックを十分に捉えられない。
そこで論文は「分散認識報酬フレームワーク(Variance-Aware Reward Framework)」を提案する。これはRubrics as Rewardsの明示的集約と暗黙的集約の戦略を拡張し、重み付き二値基準集約と単一の全体スコアを、基準レベルのルーブリック結果から導出される連続的な解析的報酬関数に置き換える。この定式化により、疎で多基準かつ自動検証が困難なフィードバックに対してより豊かな最適化シグナルが得られ、オンポリシー強化学習がより安定する。
実験はHealthBenchの心臓関連サブセット(ホールドアウト)で実施された。その結果、最良のGRPO変種はQwen3-14Bベースモデルと比較して、精度を0.362から0.502へ、F1を0.532から0.668へ向上させた。これはGPT-OSS-120B(精度0.508、F1 0.674)と比べても競争力のある性能である。
著者らは、注意深く設計されたルーブリックベースの報酬が、心臓関連の医療質問応答を改善するための実用的な戦略を提供し、他のルーブリックベースのタスクにも拡張できる可能性があると結論付けている。本論文は全27ページで、2026年4月17日に投稿され、計算と言語(cs.CL)および人工知能(cs.AI)の分野に属する。