ChatGPT希望獲取您的健康記錄，以便成為一個更好的“非醫生”

OpenAI正在擴充套件其在醫療領域的影響力，透過鼓勵使用者將Apple Health資料和受支援的醫療記錄連線到ChatGPT。這一名為“Health in ChatGPT”的新功能允許符合條件的使用者將ChatGPT連結到iOS上的Apple Health應用，從而讓聊天機器人訪問使用者選擇共享的健康資訊，包括醫療記錄、睡眠、活動及其他儲存在應用中的資料。

對於不熟悉Apple Health應用的使用者，這是一個健康儀表板，從iPhone、Apple Watch以及相容的健康和健身應用中收集資料，同時允許使用者新增個人健康資訊，如藥物、過敏和醫療狀況。OpenAI表示，將ChatGPT連線到該應用，為健康相關對話提供了更多背景資訊，使其能夠根據使用者的健康資訊提供更個性化的回覆。

然而，這一功能的釋出時機引發了爭議。就在一天前，OpenAI在舊金山高等法院被一名佛羅里達男子起訴，該男子聲稱ChatGPT給出了“極其危險的醫療建議”，勸阻他不要尋求醫療幫助，導致其肺栓塞惡化。該男子後來住院，並聲稱需要數年的密集身心康復，因為聊天機器人一再安撫他說症狀並不嚴重，並敦促他留在家中。

OpenAI的一位發言人向《紐約時報》表示，ChatGPT的服務條款明確說明其不適用於醫療診斷或治療。該發言人還表示，自訴訟涉及的事件以來，公司的模型已經有所改進。OpenAI在“Health in ChatGPT”公告中也指出，該功能仍可能出錯，不應取代合格的醫療專業人員，儘管公司聲稱已與數百名醫生合作測試該功能的效能和安全性。

儘管OpenAI承諾不會將連線的健康資料用於訓練其基礎模型或投放廣告，但醫療資料的隱私問題仍然是擔憂之一。此外，近期的多項研究對AI在醫療領域的準確性提出了質疑。一項研究發現，AI聊天機器人在幫助人們做出健康決策方面並不比傳統的線上資源更好。另一項研究顯示，LLMs在超過80%的病例中無法進行早期的鑑別診斷。在加拿大，安大略省審計長髮現，醫生使用的AI筆記系統經常會向患者筆記中引入用藥錯誤、遺漏關鍵細節、插入不正確的資訊，甚至編造患者或醫生從未提及的內容。

OpenAI表示，他們使用專門的訓練來改進ChatGPT中健康對話背後的模型，使模型在識別何時需要緊急護理、詢問相關背景、解釋不確定性以及使複雜資訊更容易理解方面取得了“有意義的進步”。公司還稱，已訓練模型在不完整資訊的情況下處理健康問題的不確定性，而不是直接編造答案。

儘管如此，是否足夠安全可靠最終取決於使用者的決定。對於那些決心將自己的健康交託給一家正在為訴訟辯護的公司的人來說，“Health in ChatGPT”功能現已面向美國18歲及以上的iOS和Web使用者推出，涵蓋Free、Go、Plus和Pro計劃。