美国公共卫生机构将测试OpenAI和Anthropic的AI模型

美国各地的公共卫生部门将根据一项新计划测试生成式AI工具，该计划涉及健康AI联盟（CHAI）、OpenAI、Anthropic和埃森哲。

这个名为“公共卫生用例与学习扩展引擎”（PULSE）的计划将在10个州、地方、部落或地区司法管辖区开展试验。该计划旨在为考虑类似部署的公共卫生机构提供实施指南。

OpenAI和Anthropic已捐赠了10个企业许可证，容量可达2000名公共卫生从业者。埃森哲将负责参与者的入职培训，并协助根据试验结果制定操作手册。

该计划将让公共卫生从业者使用OpenAI和Anthropic的企业AI产品。CHAI尚未确定将使用哪些产品、模型版本或配置，也没有说明如何将这两个提供商分配给各个试点项目。

“每一次重大的技术转型都取决于信任、治理和执行，”前德克萨斯州卫生专员David Lakey博士说。“PULSE将支持各机构的这一努力，并特别为实际实施而设计。”

五个公共卫生用例

CHAI的领导委员会将选定参与的司法管辖区，并将从业者分配到关注五个用例的社区中。这些用例包括：生物监测和药物浪潮预测；健康的社会决定因素及社会决定因素映射；运营效率与社区反馈分析；公共沟通与多语言翻译中心；以及自动化临床数据检索与FHIR查询引擎。

NIST的AI风险管理框架建议根据AI系统的预期用途、运行环境、受影响方和潜在后果进行评估。CHAI尚未为五个PULSE用例发布单独的评估、隐私、安全或人工审查要求。

FHIR是一个HL7标准，用于在兼容系统之间以电子方式交换医疗信息。PULSE包括一个自动化临床数据检索和FHIR查询引擎，但公告没有定义生成式AI在该工作流程中的作用。它没有说明这些模型是否会生成查询、检索记录、汇总返回的信息，还是结合这些功能。

公告也没有说明不正确的查询、不完整的检索或不支持的摘要是否会由工作人员在使用前进行检查。

一些拟议的应用可能涉及人口统计、地理、临床或人群健康信息。CHAI尚未说明这些试点是否将使用可识别记录、去识别信息、合成数据或汇总数据集。

美国卫生与公众服务部要求受HIPAA约束的组织保护某些电子健康信息。其云计算指南指出，当云系统创建、接收、维护或传输电子受保护健康信息时，受监管的组织和服务提供商必须满足HIPAA要求。

HIPAA不会适用于每个参与组织或工作流程。其应用取决于机构、所涉及的数据以及所执行的功能。

OpenAI表示，其商业服务（包括ChatGPT Enterprise及其API）的输入和输出默认不会用于训练或改进其模型。Anthropic也声明其默认不会使用商业产品的输入和输出进行模型训练。

这些提供商的策略并未定义PULSE部署的配置方式。公告没有规定保留期限、访问控制、审计安排、数据存储要求或提交受保护健康信息的规则。

“我们相信AI应该对解决社会最重要挑战的人有用、安全且可及，”OpenAI政府市场负责人Felipe Millon说。他补充说，这些许可证旨在帮助公共卫生组织通过结构化过程评估这些工具。

治理和评估仍不确定

试点计划于2026年秋季开始。CHAI预计由此产生的操作手册将于2027年发布，并作为其他公共卫生机构的参考资料。

CHAI尚未公布用于评估试点的标准，也没有说明每个用例是否将在单独的技术、操作、隐私和安全标准下进行评估。

公告也没有说明如何审查模型输出。它没有说明工作人员是否必须批准生成的公共通讯、验证翻译、验证检索到的临床信息，或在使用前审查生物监测和药物浪潮的输出。

NIST指南建议确定哪些AI功能需要人工监督，并培训用户了解系统性能和局限性。其生成式AI指南还涵盖了测试、验证、监控、文档、隐私和管理监督。

“公共卫生团队被要求用更少的资源做更多的事，而AI可以提供帮助——只要引入时谨慎并设置适当的护栏，”Anthropic有益部署负责人Elizabeth Kelly说。她说PULSE将允许从业者在其自己的环境中测试这些工具，并从一开始就纳入隐私、治理和负责任使用的措施。

CHAI引用的全国县市卫生官员协会数据显示，近40%的地方卫生部门未使用AI。该联盟表示，一些部门有兴趣修改工作流程并提高运营效率。

PULSE将提供企业许可证、入职培训、同行社区和实施手册。CHAI尚未规定参与司法管辖区的最低人员配置、基础设施、互操作性或网络安全要求。

符合条件的参与者包括州和地区卫生部门、县市机构、部落当局、印第安健康组织以及大城市卫生部门。

PULSE计划将来自10个司法管辖区的发现转化为更广泛使用的指南。公告没有说明这些手册将如何考虑机构规模、技术系统、法律责任、人员配置或采购安排的差异。

公告也没有说明生物监测、药物浪潮预测或临床数据检索的输出是仅用于测试、提交给工作人员审查，还是纳入操作工作流程。

PULSE是CHAI在医疗AI治理标准方面更广泛工作的一部分。5月，该组织宣布计划通过涉及150多名医疗AI代表的研讨会和工作组，制定涵盖八个治理领域的指南。

该联盟此后已开始发布关于组织AI政策、治理结构和内部资源的操作手册。预计额外的指南将涵盖医疗AI管理的其他领域。

另外，CHAI已与联合委员会合作，制定了与其自愿性“医疗中负责任使用AI”认证相一致的操作手册。PULSE公告并未说明参与的公共卫生机构将根据该认证接受评估。

CHAI首席执行官Brian Anderson博士表示，公共卫生机构在经历多年技术投资不足后进入了COVID-19大流行。他说PULSE计划旨在让机构在更广泛实施之前获得AI的实践经验。

“我们知道AI将重塑我们提供公共卫生的方式——问题是我们是否深思熟虑地去做，”前白宫COVID-19响应协调员Ashish Jha博士说。他说该计划将测试哪些应用有效，并为其他机构记录发现。

另见：Bunkerhill筹集5500万美元以在卫生系统中扩展自主AI

想了解更多来自行业领袖的AI和大数据信息？请查看在阿姆斯特丹、加利福尼亚和伦敦举办的AI与大数据博览会。这一综合性活动是TechEx的一部分，并与网络安全与云博览会等其他领先技术活动同期举行。点击此处了解更多信息。

AI News由TechForge Media提供支持。在此处探索其他即将举行的企业技术活动和网络研讨会。