誤導性AI生成的醫生對公共安全構成“巨大危險”
研究發現，AI生成的醫生賬號在TikTok上通過傳播可疑的健康建議獲得數百萬觀看量，專家警告這些誤導性健康聲明對公共安全構成巨大威脅。
近日，一項由英國醫學會（BMA）支持的研究揭示了TikTok上AI生成醫生賬號氾濫的現象。這些賬號利用人工智能技術製作逼真的醫生形象，發佈包含錯誤醫療建議的內容，吸引了數百萬次觀看。BMA理事會副主席Emma Runswick博士警告稱，這些AI賬號“傳播醫學謠言，推銷所謂的靈丹妙藥”，對公眾健康構成了“巨大危險”。研究指出，這些賬號通常以“快速治癒”或“自然療法”為噱頭，誤導用户放棄正規治療。Runswick博士呼籲社交媒體平台加強審核，識別並移除這類有害賬號。她強調，在醫療保健領域，AI的濫用可能造成不可挽回的後果，監管機構必須迅速行動。此外，研究還發現，這些賬號的受眾往往是對醫療知識匱乏的羣體，更容易被誤導。專家建議用户在看到類似內容時，應核實信息來源，避免輕信。TikTok方面表示，他們已部署技術手段檢測AI生成內容，但研究者認為現有措施遠遠不夠。