美國公共衞生機構將測試OpenAI和Anthropic的AI模型

美國各地的公共衞生部門將根據一項新計劃測試生成式AI工具，該計劃涉及健康AI聯盟（CHAI）、OpenAI、Anthropic和埃森哲。

這個名為“公共衞生用例與學習擴展引擎”（PULSE）的計劃將在10個州、地方、部落或地區司法管轄區開展試驗。該計劃旨在為考慮類似部署的公共衞生機構提供實施指南。

OpenAI和Anthropic已捐贈了10個企業許可證，容量可達2000名公共衞生從業者。埃森哲將負責參與者的入職培訓，並協助根據試驗結果制定操作手冊。

該計劃將讓公共衞生從業者使用OpenAI和Anthropic的企業AI產品。CHAI尚未確定將使用哪些產品、模型版本或配置，也沒有説明如何將這兩個提供商分配給各個試點項目。

“每一次重大的技術轉型都取決於信任、治理和執行，”前德克薩斯州衞生專員David Lakey博士説。“PULSE將支持各機構的這一努力，並特別為實際實施而設計。”

五個公共衞生用例

CHAI的領導委員會將選定參與的司法管轄區，並將從業者分配到關注五個用例的社區中。這些用例包括：生物監測和藥物浪潮預測；健康的社會決定因素及社會決定因素映射；運營效率與社區反饋分析；公共溝通與多語言翻譯中心；以及自動化臨牀數據檢索與FHIR查詢引擎。

NIST的AI風險管理框架建議根據AI系統的預期用途、運行環境、受影響方和潛在後果進行評估。CHAI尚未為五個PULSE用例發佈單獨的評估、隱私、安全或人工審查要求。

FHIR是一個HL7標準，用於在兼容系統之間以電子方式交換醫療信息。PULSE包括一個自動化臨牀數據檢索和FHIR查詢引擎，但公告沒有定義生成式AI在該工作流程中的作用。它沒有説明這些模型是否會生成查詢、檢索記錄、彙總返回的信息，還是結合這些功能。

公告也沒有説明不正確的查詢、不完整的檢索或不支持的摘要是否會由工作人員在使用前進行檢查。

一些擬議的應用可能涉及人口統計、地理、臨牀或人羣健康信息。CHAI尚未説明這些試點是否將使用可識別記錄、去識別信息、合成數據或彙總數據集。

美國衞生與公眾服務部要求受HIPAA約束的組織保護某些電子健康信息。其雲計算指南指出，當雲系統創建、接收、維護或傳輸電子受保護健康信息時，受監管的組織和服務提供商必須滿足HIPAA要求。

HIPAA不會適用於每個參與組織或工作流程。其應用取決於機構、所涉及的數據以及所執行的功能。

OpenAI表示，其商業服務（包括ChatGPT Enterprise及其API）的輸入和輸出默認不會用於訓練或改進其模型。Anthropic也聲明其默認不會使用商業產品的輸入和輸出進行模型訓練。

這些提供商的策略並未定義PULSE部署的配置方式。公告沒有規定保留期限、訪問控制、審計安排、數據存儲要求或提交受保護健康信息的規則。

“我們相信AI應該對解決社會最重要挑戰的人有用、安全且可及，”OpenAI政府市場負責人Felipe Millon説。他補充説，這些許可證旨在幫助公共衞生組織通過結構化過程評估這些工具。

治理和評估仍不確定

試點計劃於2026年秋季開始。CHAI預計由此產生的操作手冊將於2027年發佈，並作為其他公共衞生機構的參考資料。

CHAI尚未公佈用於評估試點的標準，也沒有説明每個用例是否將在單獨的技術、操作、隱私和安全標準下進行評估。

公告也沒有説明如何審查模型輸出。它沒有説明工作人員是否必須批准生成的公共通訊、驗證翻譯、驗證檢索到的臨牀信息，或在使用前審查生物監測和藥物浪潮的輸出。

NIST指南建議確定哪些AI功能需要人工監督，並培訓用户瞭解系統性能和侷限性。其生成式AI指南還涵蓋了測試、驗證、監控、文檔、隱私和管理監督。

“公共衞生團隊被要求用更少的資源做更多的事，而AI可以提供幫助——只要引入時謹慎並設置適當的護欄，”Anthropic有益部署負責人Elizabeth Kelly説。她説PULSE將允許從業者在其自己的環境中測試這些工具，並從一開始就納入隱私、治理和負責任使用的措施。

CHAI引用的全國縣市衞生官員協會數據顯示，近40%的地方衞生部門未使用AI。該聯盟表示，一些部門有興趣修改工作流程並提高運營效率。

PULSE將提供企業許可證、入職培訓、同行社區和實施手冊。CHAI尚未規定參與司法管轄區的最低人員配置、基礎設施、互操作性或網絡安全要求。

符合條件的參與者包括州和地區衞生部門、縣市機構、部落當局、印第安健康組織以及大城市衞生部門。

PULSE計劃將來自10個司法管轄區的發現轉化為更廣泛使用的指南。公告沒有説明這些手冊將如何考慮機構規模、技術系統、法律責任、人員配置或採購安排的差異。

公告也沒有説明生物監測、藥物浪潮預測或臨牀數據檢索的輸出是僅用於測試、提交給工作人員審查，還是納入操作工作流程。

PULSE是CHAI在醫療AI治理標準方面更廣泛工作的一部分。5月，該組織宣佈計劃通過涉及150多名醫療AI代表的研討會和工作組，制定涵蓋八個治理領域的指南。

該聯盟此後已開始發佈關於組織AI政策、治理結構和內部資源的操作手冊。預計額外的指南將涵蓋醫療AI管理的其他領域。

另外，CHAI已與聯合委員會合作，制定了與其自願性“醫療中負責任使用AI”認證相一致的操作手冊。PULSE公告並未説明參與的公共衞生機構將根據該認證接受評估。

CHAI首席執行官Brian Anderson博士表示，公共衞生機構在經歷多年技術投資不足後進入了COVID-19大流行。他説PULSE計劃旨在讓機構在更廣泛實施之前獲得AI的實踐經驗。

“我們知道AI將重塑我們提供公共衞生的方式——問題是我們是否深思熟慮地去做，”前白宮COVID-19響應協調員Ashish Jha博士説。他説該計劃將測試哪些應用有效，併為其他機構記錄發現。

另見：Bunkerhill籌集5500萬美元以在衞生系統中擴展自主AI

想了解更多來自行業領袖的AI和大數據信息？請查看在阿姆斯特丹、加利福尼亞和倫敦舉辦的AI與大數據博覽會。這一綜合性活動是TechEx的一部分，並與網絡安全與雲博覽會等其他領先技術活動同期舉行。點擊此處瞭解更多信息。

AI News由TechForge Media提供支持。在此處探索其他即將舉行的企業技術活動和網絡研討會。