本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

HealthCraft:救急医療のための強化学習安全環境

記事の要約

HealthCraft は FHIR R4 に基づく初の救急医療用強化学習環境で、二層評価システムにより言語モデルの臨床ワークフロー安全性を評価。最先端モデルはマルチステップワークフローでほぼ失敗し、インフラのバグがモデルランキングに影響することが示された。環境とタスクはオープンソース公開。

ソースarXiv Machine Learning著者: Brandon Dent
HealthCraft:救急医療のための強化学習安全環境
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

最新の言語モデルが臨床ワークフローに急速に導入される一方、その安全性を評価するインフラは追いついていない。静的な医療QAベンチマークでは、救急医療で重要な故障モード——軌跡レベルの安全性崩壊、ツール誤用、持続的な臨床圧力への妥協——を捉えられない。そこで研究者らは、Corecraft を基にした初の公開強化学習環境 HealthCraft を提案する。これは現実的な救急条件下で軌跡レベルの安全性に報酬を与える。

HealthCraft は FHIR R4 ワールドステート上に構築され、14のエンティティ型と3987のシードエンティティを持ち、24のMCPツールを公開する。二層評価基準を定義し、安全基準が一つでも違反されると報酬をゼロにする。研究チームは6カテゴリにわたる195タスクをリリースし、2255の二値基準(うち515は安全クリティカル)で評価。後から10タスクのネガティブクラスを追加し、合計205タスク、2337基準となった。

V8結果では、Claude Opus 4.6 のPass@1が24.8%[21.5-28.4]、GPT-5.4が12.6%[10.2-15.6]で、安全故障率はそれぞれ27.5%と34.0%だった。マルチステップワークフロー(実際の救急ケアに最も近い)では、性能がほぼゼロに低下(Claude 1.0%、GPT-5.4 0.0%)。個々のステップでは部分的な能力を示すにもかかわらずだ。

v2からv8の間に修正された6つのインフラバグにより、どちらのモデルが「強い」かの順位が変わった。これはインフラの忠実性が測定の一部である証拠だ。決定論的LLM判定オーバーレイで評価ノイズを抑制し、60回のネガティブクラススモークパイロットでは、報酬信号がそのまま訓練に使えないことを示した:抑制基準の通過率0.929は、評価ハーネスは許容できるが訓練報酬としてはゲーム化可能である。

研究チームはCorecraft 5.2節に従い、Megatron+SGLang+GRPOループとの結合を準備し、訓練報酬のアブレーションは将来の課題とした。環境、タスク、ルーブリック、ハーネスはApache 2.0で公開されている。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • HealthCraft は静的なQAではなく、軌跡レベルの安全性を救急現場で評価する。
  • 環境は14のエンティティ型、3987のシードエンティティ、24のMCPツールを含む。
  • Claude Opus 4.6 の単一ステップ通過率は24.8%、GPT-5.4 は12.6%だが、マルチステップではほぼゼロ。
  • インフラ修正によりモデルランキングが変動し、評価の忠実性の重要性が浮き彫りに。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。