大規模言語モデル（LLM）は高度な推論と意味理解能力を示す一方、専門知識を必要とする医療分野では「捏造」、すなわち事実誤認でありながら流暢な文を生成する問題が深刻である。既存の医療用幻覚データセットは、捏造のカバレッジ不足、人間とLLM作成テキスト間のスタイルの相違、幻覚サンプル合成時の分布シフトなどの理由から、捏造現象を適切に捉えられていない。この課題に対処するため、研究チームはMedFabricを提案した。これはデータ中心のパイプラインを用いて、構文的・スタイル的忠実性を保ちつつ、微妙な事実のずれを導入した現実的な単語レベルの捏造を生成するデータセットである。具体的には、医学テキストから構造化知識を抽出し、キーワードの置換・挿入・削除により捏造を生成するが、全体の流暢性と専門性は維持される。
MedFabricを基盤として、研究チームはさらにEtHERを導入した。これはモジュール式の単語レベル捏造検出器であり、以下の要素を統合する。第一に、Text2Table分解により医療テキストから事実情報を構造化テーブルに抽出し、エンティティと関係を明確化する。第二に、単語マスキングと補完により、重要な用語を隠蔽しコンテキストから予測することで潜在的な捏造を特定する。第三に、ハイブリッド文対評価で元の文と修正後の文の意味的一貫性を比較し、総合的に捏造を判定する。これらのモジュールが連携し、事実整合性の検出能力を大幅に向上させる。
実験結果によれば、MedFabricは複数の単語レベル捏造ベンチマークにおいて、既存の最先端検出器を15%以上上回る性能を示し、構造的類似性が異なるサンプルに対しても一貫した検出性能を維持した。この研究は、医療分野における信頼性の高いドメイン特化型事実性検出のための包括的フレームワークを提供し、LLMの臨床意思決定支援やカルテ分析などの高リスクシナリオでの信頼性向上に貢献する。論文は複数の機関の共同チーム（Tung Sum Thomas Kwok、Qian Qian、Xiaofeng Lin、Dongxu Zhang、Jun Han、Zhichao Yang、Davin Hill、Tamer Soliman、Sanjit Singh Batra、Robert Tillman、Guang Cheng）によるもので、プレプリントはarXiv（ID: arXiv:2605.04180）にて公開されている。