OpenAIは、Apple Healthデータおよび対応する医療記録をChatGPTに接続することをユーザーに促すことで、ヘルスケア分野への進出を拡大している。「Health in ChatGPT」と呼ばれるこの新機能により、対象ユーザーはChatGPTをiOSのApple Healthアプリにリンクし、チャットボットが医療記録、睡眠、活動、その他のアプリ内データにアクセスできるようになる。
Apple Healthアプリは、iPhone、Apple Watch、および互換性のある健康・フィットネスアプリからデータを収集する健康ダッシュボードであり、ユーザーは薬剤、アレルギー、病状などの個人健康情報を追加することもできる。OpenAIによると、ChatGPTをこのアプリに接続することで、健康関連の会話に追加のコンテキストが与えられ、ユーザーの健康情報に基づいてよりパーソナライズされた応答が可能になる。
しかし、この機能のタイミングは物議を醸している。公開の前日、OpenAIはサンフランシスコ高等裁判所でフロリダ州の男性に提訴された。男性はChatGPTが「極めて危険な医療勧告」を行い、肺塞栓症が悪化しているにもかかわらず医療機関を受診しないように促したと主張している。男性は入院後、症状が深刻ではないと繰り返し安心させられ、自宅待機を促されたため、現在は何年もの集中的な身体的・精神的リハビリテーションが必要だと述べている。
OpenAIの広報担当者は、ChatGPTの利用規約で医療診断や治療を目的としていないことを明記していると述べ、訴訟の対象となったインシデント以降、モデルは改善されていると主張した。また、「Health in ChatGPT」の発表では、同機能がまだ誤りを犯す可能性があり、資格のある医療専門家に取って代わるべきではないと注意喚起している。
OpenAIは、接続された健康データを基礎モデルのトレーニングや広告配信に使用しないと約束しているが、プライバシー懸念に加えて、AIの医療応用に関する深刻な問題が指摘されている。最近の複数の研究では、AIチャットボットが従来のオンラインリソースと比べて健康決定に役立たないこと、LLMが80%以上の症例で初期鑑別診断に失敗すること、そして医師が使用するAIノート作成システムが患者記録に薬剤エラーや幻覚を導入することが明らかになっている。
OpenAIは、健康会話の背後にあるモデルを改善するための専用トレーニングを行い、緊急ケアの必要性を認識し、関連コンテキストを尋ね、不確実性を説明し、複雑な情報を理解しやすくする上で「意味のある進歩」を遂げたと述べている。また、情報が不完全な場合に回答を捏造するのではなく、不確実性に対処するようにモデルを訓練したとしている。
しかし、これらの対策が安全で信頼できるものにするのに十分かどうかは、最終的にはユーザー次第である。ChatGPTが危険な医療アドバイスを提供したという訴訟を抱える企業に自分の健康を委ねたいと考える人々のために、「Health in ChatGPT」は現在、米国内の18歳以上のiOSおよびWebユーザー（Free、Go、Plus、Proプラン）に展開されている。