ヘルスケアAIの視点から見るエージェント設計パターン

著者はAnthropicの「効果的なAIエージェントの構築」ガイドを読み、一般的なエージェント設計パターンをヘルスケアに応用する方法を考察した。このガイドは簡潔で優雅であり、複雑さよりもシンプルさ、抽象化よりも透明性を重視する原則を提唱している。著者はLLMをツール、メモリ、検索能力を持つジュニア開発者と見なし、設計上の抑制が重要だと指摘する。

最初に、ワークフローパターンの潜在的な応用について検討した：プロンプトチェイニングは音声からの臨床文書生成や臨床試験基準の平易な言語への変換に利用でき、ルーティングは医療Q&Aトリアージに応用できる。しかし、後のパターンは単なるルーティングの変種に見え、焦点は検証可能性という重要な問題に移った。

AnthropicのCEOであるDario Amodeiは、プログラミングがAI支援の最初の足掛かりとなったのは検証可能性のためだと述べている。このことから、著者はFHIR（迅速な医療相互運用性リソース）標準を新たな視点で捉え直した。FHIRは標準化された構造化JSONであり、それ自体が検証可能であるため、特定のヘルスケア問題も検証可能になる。

この洞察に基づき、著者は「どのヘルスケアユースケースが実際に検証可能か？」という問いを立てた。

並列化パターンでは、自由テキストをFHIRリソースに変換し、生成されたJSONの構造、コード、エンコード値を並行検証する。オーケストレーター・ワーカーパターンでは、複数のソースから健康記録を集約し、統一されたビューに調整する。

評価者・最適化パターンについて、著者は特に深く考察した。このパターンは、明確な品質基準があり、LLMが自分でフィードバックを提供できる場合に最も有効である。最も明確な例は匿名化である：生成器が臨床ノートの匿名化バージョンを生成し、評価器が残存する保護健康情報（PHI）をスキャンし、ループがクリーンになるまで繰り返す。臨床コーディングも同様のパターンを持つ。しかし、フィードバックに臨床判断が必要になると（「これは安全か？」「これは正しい判断か？」）、ループは人間に開かれなければならない。これは、ヘルスケアAIが一律に高リスクなわけではなく、スペクトルが存在し、評価者・最適化パターンは低リスクで自己検証可能な領域に正確に適合することを示している。

エージェントパターンについては、著者は二つの極端なケースを区別した：臨床判断を行うエージェントは決して人間の監督なしに実行できず、行動空間は開かれており、結果は患者の健康に関わる。一方、データ調整エージェントは、特にFHIRのような標準化された形式を使用する場合、完全に自律的であり得る。これはオーケストレーター・ワーカーパターンを超えるもので、自律性の違いは、エージェントが次に何を取得するかを自律的に決定し、ソース間の矛盾を解決し、データが一貫するまで反復することにある。重要なのは、出力が依然として構造化されチェック可能であることであり、その自律性が安全である理由である。

結論として、ヘルスケアAIの自律性は固定されたパターンのリストではなく、検証可能性を通じて獲得される勾配である。構造化されたヘルスケアデータ（FHIR、データ調整）は検証可能であり、検証可能な部分はエージェントが担当できる。臨床判断の部分は人間に残されるが、それはエージェントが到達できないからではなく、まだ十分に測定して信頼できないからである。評価（evals）は「十分良い」という問いに答える鍵であり、今後の記事で深く掘り下げられる。