美國公共衛生機構將測試OpenAI和Anthropic的AI模型

美國各地的公共衛生部門將根據一項新計劃測試生成式AI工具，該計劃涉及健康AI聯盟（CHAI）、OpenAI、Anthropic和埃森哲。

這個名為“公共衛生用例與學習擴充套件引擎”（PULSE）的計劃將在10個州、地方、部落或地區司法管轄區開展試驗。該計劃旨在為考慮類似部署的公共衛生機構提供實施指南。

OpenAI和Anthropic已捐贈了10個企業許可證，容量可達2000名公共衛生從業者。埃森哲將負責參與者的入職培訓，並協助根據試驗結果制定操作手冊。

該計劃將讓公共衛生從業者使用OpenAI和Anthropic的企業AI產品。CHAI尚未確定將使用哪些產品、模型版本或配置，也沒有說明如何將這兩個提供商分配給各個試點專案。

“每一次重大的技術轉型都取決於信任、治理和執行，”前德克薩斯州衛生專員David Lakey博士說。“PULSE將支援各機構的這一努力，並特別為實際實施而設計。”

五個公共衛生用例

CHAI的領導委員會將選定參與的司法管轄區，並將從業者分配到關注五個用例的社群中。這些用例包括：生物監測和藥物浪潮預測；健康的社會決定因素及社會決定因素對映；運營效率與社群反饋分析；公共溝通與多語言翻譯中心；以及自動化臨床資料檢索與FHIR查詢引擎。

NIST的AI風險管理框架建議根據AI系統的預期用途、執行環境、受影響方和潛在後果進行評估。CHAI尚未為五個PULSE用例釋出單獨的評估、隱私、安全或人工審查要求。

FHIR是一個HL7標準，用於在相容系統之間以電子方式交換醫療資訊。PULSE包括一個自動化臨床資料檢索和FHIR查詢引擎，但公告沒有定義生成式AI在該工作流程中的作用。它沒有說明這些模型是否會生成查詢、檢索記錄、彙總返回的資訊，還是結合這些功能。

公告也沒有說明不正確的查詢、不完整的檢索或不支援的摘要是否會由工作人員在使用前進行檢查。

一些擬議的應用可能涉及人口統計、地理、臨床或人群健康資訊。CHAI尚未說明這些試點是否將使用可識別記錄、去識別資訊、合成資料或彙總資料集。

美國衛生與公眾服務部要求受HIPAA約束的組織保護某些電子健康資訊。其雲端計算指南指出，當雲系統建立、接收、維護或傳輸電子受保護健康資訊時，受監管的組織和服務提供商必須滿足HIPAA要求。

HIPAA不會適用於每個參與組織或工作流程。其應用取決於機構、所涉及的資料以及所執行的功能。

OpenAI表示，其商業服務（包括ChatGPT Enterprise及其API）的輸入和輸出預設不會用於訓練或改進其模型。Anthropic也宣告其預設不會使用商業產品的輸入和輸出進行模型訓練。

這些提供商的策略並未定義PULSE部署的配置方式。公告沒有規定保留期限、訪問控制、審計安排、資料儲存要求或提交受保護健康資訊的規則。

“我們相信AI應該對解決社會最重要挑戰的人有用、安全且可及，”OpenAI政府市場負責人Felipe Millon說。他補充說，這些許可證旨在幫助公共衛生組織透過結構化過程評估這些工具。

治理和評估仍不確定

試點計劃於2026年秋季開始。CHAI預計由此產生的操作手冊將於2027年釋出，並作為其他公共衛生機構的參考資料。

CHAI尚未公佈用於評估試點的標準，也沒有說明每個用例是否將在單獨的技術、操作、隱私和安全標準下進行評估。

公告也沒有說明如何審查模型輸出。它沒有說明工作人員是否必須批准生成的公共通訊、驗證翻譯、驗證檢索到的臨床資訊，或在使用前審查生物監測和藥物浪潮的輸出。

NIST指南建議確定哪些AI功能需要人工監督，並培訓使用者瞭解系統效能和侷限性。其生成式AI指南還涵蓋了測試、驗證、監控、文件、隱私和管理監督。

“公共衛生團隊被要求用更少的資源做更多的事，而AI可以提供幫助——只要引入時謹慎並設定適當的護欄，”Anthropic有益部署負責人Elizabeth Kelly說。她說PULSE將允許從業者在其自己的環境中測試這些工具，並從一開始就納入隱私、治理和負責任使用的措施。

CHAI引用的全國縣市衛生官員協會資料顯示，近40%的地方衛生部門未使用AI。該聯盟表示，一些部門有興趣修改工作流程並提高運營效率。

PULSE將提供企業許可證、入職培訓、同行社群和實施手冊。CHAI尚未規定參與司法管轄區的最低人員配置、基礎設施、互操作性或網路安全要求。

符合條件的參與者包括州和地區衛生部門、縣市機構、部落當局、印第安健康組織以及大城市衛生部門。

PULSE計劃將來自10個司法管轄區的發現轉化為更廣泛使用的指南。公告沒有說明這些手冊將如何考慮機構規模、技術系統、法律責任、人員配置或採購安排的差異。

公告也沒有說明生物監測、藥物浪潮預測或臨床資料檢索的輸出是僅用於測試、提交給工作人員審查，還是納入操作工作流程。

PULSE是CHAI在醫療AI治理標準方面更廣泛工作的一部分。5月，該組織宣佈計劃透過涉及150多名醫療AI代表的研討會和工作組，制定涵蓋八個治理領域的指南。

該聯盟此後已開始釋出關於組織AI政策、治理結構和內部資源的操作手冊。預計額外的指南將涵蓋醫療AI管理的其他領域。

另外，CHAI已與聯合委員會合作，制定了與其自願性“醫療中負責任使用AI”認證相一致的操作手冊。PULSE公告並未說明參與的公共衛生機構將根據該認證接受評估。

CHAI執行長Brian Anderson博士表示，公共衛生機構在經歷多年技術投資不足後進入了COVID-19大流行。他說PULSE計劃旨在讓機構在更廣泛實施之前獲得AI的實踐經驗。

“我們知道AI將重塑我們提供公共衛生的方式——問題是我們是否深思熟慮地去做，”前白宮COVID-19響應協調員Ashish Jha博士說。他說該計劃將測試哪些應用有效，併為其他機構記錄發現。

另見：Bunkerhill籌集5500萬美元以在衛生系統中擴充套件自主AI

想了解更多來自行業領袖的AI和大數據資訊？請檢視在阿姆斯特丹、加利福尼亞和倫敦舉辦的AI與大數據博覽會。這一綜合性活動是TechEx的一部分，並與網路安全與雲博覽會等其他領先技術活動同期舉行。點選此處瞭解更多資訊。

AI News由TechForge Media提供支援。在此處探索其他即將舉行的企業技術活動和網路研討會。