ChatGPT希望获取您的健康记录，以便成为一个更好的“非医生”

OpenAI正在扩展其在医疗领域的影响力，通过鼓励用户将Apple Health数据和受支持的医疗记录连接到ChatGPT。这一名为“Health in ChatGPT”的新功能允许符合条件的用户将ChatGPT链接到iOS上的Apple Health应用，从而让聊天机器人访问用户选择共享的健康信息，包括医疗记录、睡眠、活动及其他存储在应用中的数据。

对于不熟悉Apple Health应用的用户，这是一个健康仪表板，从iPhone、Apple Watch以及兼容的健康和健身应用中收集数据，同时允许用户添加个人健康信息，如药物、过敏和医疗状况。OpenAI表示，将ChatGPT连接到该应用，为健康相关对话提供了更多背景信息，使其能够根据用户的健康信息提供更个性化的回复。

然而，这一功能的发布时机引发了争议。就在一天前，OpenAI在旧金山高等法院被一名佛罗里达男子起诉，该男子声称ChatGPT给出了“极其危险的医疗建议”，劝阻他不要寻求医疗帮助，导致其肺栓塞恶化。该男子后来住院，并声称需要数年的密集身心康复，因为聊天机器人一再安抚他说症状并不严重，并敦促他留在家中。

OpenAI的一位发言人向《纽约时报》表示，ChatGPT的服务条款明确说明其不适用于医疗诊断或治疗。该发言人还表示，自诉讼涉及的事件以来，公司的模型已经有所改进。OpenAI在“Health in ChatGPT”公告中也指出，该功能仍可能出错，不应取代合格的医疗专业人员，尽管公司声称已与数百名医生合作测试该功能的性能和安全性。

尽管OpenAI承诺不会将连接的健康数据用于训练其基础模型或投放广告，但医疗数据的隐私问题仍然是担忧之一。此外，近期的多项研究对AI在医疗领域的准确性提出了质疑。一项研究发现，AI聊天机器人在帮助人们做出健康决策方面并不比传统的在线资源更好。另一项研究显示，LLMs在超过80%的病例中无法进行早期的鉴别诊断。在加拿大，安大略省审计长发现，医生使用的AI笔记系统经常会向患者笔记中引入用药错误、遗漏关键细节、插入不正确的信息，甚至编造患者或医生从未提及的内容。

OpenAI表示，他们使用专门的训练来改进ChatGPT中健康对话背后的模型，使模型在识别何时需要紧急护理、询问相关背景、解释不确定性以及使复杂信息更容易理解方面取得了“有意义的进步”。公司还称，已训练模型在不完整信息的情况下处理健康问题的不确定性，而不是直接编造答案。

尽管如此，是否足够安全可靠最终取决于用户的决定。对于那些决心将自己的健康交托给一家正在为诉讼辩护的公司的人来说，“Health in ChatGPT”功能现已面向美国18岁及以上的iOS和Web用户推出，涵盖Free、Go、Plus和Pro计划。