ChatGPT希望獲取您的健康記錄，以便成為一個更好的“非醫生”

OpenAI正在擴展其在醫療領域的影響力，通過鼓勵用户將Apple Health數據和受支持的醫療記錄連接到ChatGPT。這一名為“Health in ChatGPT”的新功能允許符合條件的用户將ChatGPT鏈接到iOS上的Apple Health應用，從而讓聊天機器人訪問用户選擇共享的健康信息，包括醫療記錄、睡眠、活動及其他存儲在應用中的數據。

對於不熟悉Apple Health應用的用户，這是一個健康儀表板，從iPhone、Apple Watch以及兼容的健康和健身應用中收集數據，同時允許用户添加個人健康信息，如藥物、過敏和醫療狀況。OpenAI表示，將ChatGPT連接到該應用，為健康相關對話提供了更多背景信息，使其能夠根據用户的健康信息提供更個性化的回覆。

然而，這一功能的發佈時機引發了爭議。就在一天前，OpenAI在舊金山高等法院被一名佛羅里達男子起訴，該男子聲稱ChatGPT給出了“極其危險的醫療建議”，勸阻他不要尋求醫療幫助，導致其肺栓塞惡化。該男子後來住院，並聲稱需要數年的密集身心康復，因為聊天機器人一再安撫他説症狀並不嚴重，並敦促他留在家中。

OpenAI的一位發言人向《紐約時報》表示，ChatGPT的服務條款明確説明其不適用於醫療診斷或治療。該發言人還表示，自訴訟涉及的事件以來，公司的模型已經有所改進。OpenAI在“Health in ChatGPT”公告中也指出，該功能仍可能出錯，不應取代合格的醫療專業人員，儘管公司聲稱已與數百名醫生合作測試該功能的性能和安全性。

儘管OpenAI承諾不會將連接的健康數據用於訓練其基礎模型或投放廣告，但醫療數據的隱私問題仍然是擔憂之一。此外，近期的多項研究對AI在醫療領域的準確性提出了質疑。一項研究發現，AI聊天機器人在幫助人們做出健康決策方面並不比傳統的在線資源更好。另一項研究顯示，LLMs在超過80%的病例中無法進行早期的鑑別診斷。在加拿大，安大略省審計長髮現，醫生使用的AI筆記系統經常會向患者筆記中引入用藥錯誤、遺漏關鍵細節、插入不正確的信息，甚至編造患者或醫生從未提及的內容。

OpenAI表示，他們使用專門的訓練來改進ChatGPT中健康對話背後的模型，使模型在識別何時需要緊急護理、詢問相關背景、解釋不確定性以及使複雜信息更容易理解方面取得了“有意義的進步”。公司還稱，已訓練模型在不完整信息的情況下處理健康問題的不確定性，而不是直接編造答案。

儘管如此，是否足夠安全可靠最終取決於用户的決定。對於那些決心將自己的健康交託給一家正在為訴訟辯護的公司的人來説，“Health in ChatGPT”功能現已面向美國18歲及以上的iOS和Web用户推出，涵蓋Free、Go、Plus和Pro計劃。