米国の公衆衛生機関、OpenAIおよびAnthropicのAIモデルをテストへ

米国の公衆衛生部門は、Coalition for Health AI（CHAI）、OpenAI、Anthropic、およびAccentureが関与する新たなプログラムに基づき、生成AIツールをテストします。

「公衆衛生ユースケース・学習スケーリングエンジン（PULSE）」と呼ばれるこのプログラムは、10の州、地方、部族、または準州の管轄区域で試験を支援します。このプログラムは、同様の展開を検討している公衆衛生機関向けの実装ガイダンスを作成することを目的としています。

OpenAIとAnthropicは、最大2,000人の公衆衛生従事者に対応できる10のエンタープライズライセンスを寄付しました。Accentureは参加者のオンボーディングを監督し、試験結果に基づいたプレイブックの作成を支援します。

このプログラムにより、公衆衛生従事者はOpenAIとAnthropicのエンタープライズAI製品にアクセスできるようになります。CHAIは、使用される製品、モデルバージョン、構成を特定しておらず、2つのプロバイダーがパイロット全体でどのように割り当てられるかも説明していません。

「すべての主要な技術変革は、信頼、ガバナンス、実行にかかっています」と、元テキサス州保健委員のDavid Lakey博士は述べています。「PULSEは、この取り組みにおいて機関を支援し、実用的な実装に特化して設計されています。」

5つの公衆衛生ユースケース

CHAIのリーダーシップカウンシルは、参加管轄区域を選定し、実務者を5つのユースケースに焦点を当てたコミュニティに割り当てます。これには、バイオサーベイランスと薬物波予測、健康の社会的決定要因（SDoH）マッピング、業務効率とコミュニティフィードバック分析、公的コミュニケーションと多言語翻訳ハブ、自動化された臨床データ取得とFHIRクエリエンジンが含まれます。

NISTのAIリスク管理フレームワークは、AIシステムをその意図された使用、運用環境、影響を受ける関係者、および潜在的な結果に従って評価することを推奨しています。CHAIは、5つのPULSEユースケースに対して個別の評価、プライバシー、セキュリティ、または人間によるレビューの要件を公表していません。

FHIRは、互換性のあるシステム間で医療情報を電子的に交換するために使用されるHL7標準です。PULSEには自動化された臨床データ取得とFHIRクエリエンジンが含まれていますが、発表ではそのワークフローにおける生成AIの役割を定義していません。モデルがクエリを生成するのか、レコードを取得するのか、返された情報を要約するのか、またはこれらの機能を組み合わせるのかは明記されていません。

また、誤ったクエリ、不完全な取得、またはサポートされていない要約が、情報が使用される前にスタッフによってチェックされるかどうかについても説明されていません。

一部の提案されたアプリケーションには、人口統計、地理、臨床、または集団健康情報が含まれる可能性があります。CHAIは、パイロットが識別可能な記録、匿名化された情報、合成データ、または集計データセットを使用するかどうかを述べていません。

米国保健福祉省は、HIPAAの対象となる組織に対し、特定の電子健康情報を保護することを義務付けています。そのクラウドコンピューティングガイダンスは、クラウドシステムが電子保護健康情報を作成、受信、維持、または送信する場合、規制対象の組織およびサービスプロバイダーがHIPAA要件を満たさなければならないと述べています。

HIPAAはすべての参加組織やワークフローに適用されるわけではありません。その適用は、機関、関与するデータ、および実行される機能によって異なります。

OpenAIは、ChatGPT EnterpriseやAPIを含むビジネスサービスの入力と出力は、デフォルトではモデルのトレーニングや改善に使用されないと述べています。Anthropicも、商用製品の入力と出力をデフォルトでモデルトレーニングに使用しないと述べています。

これらのプロバイダーのポリシーは、PULSE展開の構成方法を定義していません。発表では、保存期間、アクセス制御、監査体制、データ保存要件、または保護健康情報の提出に関するルールは定められていません。

「AIは、社会の最も重要な課題に取り組む人々にとって、有用で安全かつアクセスしやすいものであるべきだと考えています」と、OpenAIの政府市場責任者であるFelipe Millon氏は述べています。同氏は、ライセンスは公衆衛生組織が構造化されたプロセスを通じてツールを評価できるようにするためのものだと付け加えました。

ガバナンスと評価は未定義のまま

パイロットは2026年秋に開始される予定です。CHAIは、結果として得られるプレイブックが2027年に公開され、他の公衆衛生機関によって参考資料として使用されることを期待しています。

CHAIは、パイロットを評価するために使用される指標を公表しておらず、各ユースケースが別々の技術的、運用上、プライバシー、および安全基準の下で評価されるかどうかも説明していません。

また、モデル出力がどのようにレビューされるかについても説明されていません。スタッフが生成された公的コミュニケーションを承認する必要があるか、翻訳を検証するか、取得された臨床情報を検証するか、またはバイオサーベイランスや薬物波の出力を使用前にレビューする必要があるかは述べられていません。

NISTのガイダンスは、どのAI機能に人間の監視が必要かを特定し、ユーザーがシステムの性能と限界を理解するようトレーニングすることを推奨しています。その生成AIガイダンスは、テスト、検証、モニタリング、文書化、プライバシー、および管理監督もカバーしています。

「公衆衛生チームは、より少ないリソースでより多くのことを求められており、AIは役立つことができます—注意深く導入され、適切なガードレールが設けられている限り」と、Anthropicの有益な展開責任者であるElizabeth Kelly氏は述べています。同氏は、PULSEにより実務者が自身の環境でツールをテストでき、プライバシー、ガバナンス、責任ある使用の measures を最初から組み込むことができると述べました。

CHAIが引用した全米郡市保健当局協会のデータによると、地元の保健部門の約40％がAIを使用していませんでした。同連合は、一部の部門がワークフローの見直しと業務効率の改善に関心を持っていると述べました。

PULSEは、エンタープライズライセンス、オンボーディング、ピアコミュニティ、および実装プレイブックを提供します。CHAIは、参加管轄区域の最小限の人員、インフラ、相互運用性、またはサイバーセキュリティ要件を指定していません。

対象となる参加者には、州および準州の保健部門、郡および市の機関、部族当局、インド保健機関、および大都市の保健部門が含まれます。

PULSEは、10の管轄区域からの調査結果をより広く使用するためのガイダンスに変換することを計画しています。発表では、プレイブックが機関の規模、技術システム、法的責任、人員配置、または調達手配の違いをどのように考慮するかについて説明されていません。

また、バイオサーベイランス、薬物波予測、または臨床データ取得からの出力が、テストのみに使用されるのか、スタッフによるレビューのために提示されるのか、または運用ワークフローに組み込まれるのかも説明されていません。

PULSEは、医療AIのガバナンス基準に関するCHAIのより広範な取り組みの一部です。5月、同組織は、150人以上の医療AI代表者が参加するワークショップとワーキンググループを通じて、8つのガバナンス領域をカバーするガイダンスを開発する計画を発表しました。

同連合はその後、組織のAIポリシー、ガバナンス構造、および内部リソースに関するプレイブックの公開を開始しました。追加のガイダンスは、医療AI管理の他の領域をカバーすることが期待されています。

別途、CHAIは合同委員会と協力して、自主的な「医療におけるAIの責任ある使用」認証に沿ったガバナンスプレイブックを作成しています。PULSEの発表では、参加する公衆衛生機関がその認証に基づいて評価されるとは述べられていません。

CHAIの最高経営責任者であるBrian Anderson博士は、公衆衛生機関は長年の技術投資不足の後、COVID-19パンデミックに突入したと述べました。同氏は、PULSEプログラムは、より広範な実装の前に機関にAIの実践的な経験を提供することを目的としていると述べました。

「AIが公衆衛生の提供方法を再形成することはわかっています—問題は、それを思慮深く行うかどうかです」と、元ホワイトハウスCOVID-19対応コーディネーターのAshish Jha博士は述べました。同氏は、このプログラムはどのアプリケーションが機能するかをテストし、その結果を他の機関のために文書化すると述べました。

関連記事：Bunkerhill、医療システム全体でエージェント型AIを拡大するために5500万ドルを調達

AIとビッグデータについて業界リーダーからさらに学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをご覧ください。この包括的なイベントはTechExの一部であり、サイバーセキュリティ＆クラウドエキスポなどの他の主要テクノロジーイベントと同時開催されます。詳細はこちらをクリックしてください。

AI NewsはTechForge Mediaによって運営されています。今後のエンタープライズテクノロジーイベントやウェビナーはこちらをご覧ください。