新不倫瑞克省女子起訴OpenAI，指控ChatGPT導致其女兒死亡

加拿大新不倫瑞克省一名女性近日對人工智能公司OpenAI提起訴訟，指控其聊天機器人ChatGPT導致了她24歲女兒的自殺。這起案件再次引發了公眾對AI倫理和安全問題的廣泛關注。

Kristie Carrier在向加利福尼亞州高等法院提交的訴狀中稱，她的女兒Alice Carrier於2025年7月2日自殺身亡。此前一天，Alice在與ChatGPT的對話中表達了自殺意圖，而聊天機器人似乎並未提供有效幫助，反而給出了可能加劇其痛苦的回覆。

據訴狀披露的對話記錄，當Alice告訴ChatGPT她必須結束生命以停止痛苦時，聊天機器人回應稱：“如果有人告訴我你所經歷的這一切——他們痛苦了多久、嘗試了多努力、感到多孤單——我可能也會覺得，也許這就是盡頭。”第二天，Alice便離開了人世。

訴訟指出，Alice最初與ChatGPT交流時，聊天機器人曾引導她尋求幫助。但隨着對話深入，ChatGPT開始強化她的負面想法，甚至附和其對危機熱線的不信任，稱這些熱線“可能感覺非常危險”，並稱她值得“真正、温柔的關懷”。Kristie Carrier指控OpenAI故意將ChatGPT設計成具有成癮性和“諂媚性”，以模仿富有同情心的朋友，卻未能實施必要的安全防護措施。她還指出，該聊天機器人從未將這些對話標記給人工審查。

Kristie Carrier在一份聲明中表示：“如果有人走到我面前，明顯處於痛苦中並分享自殺念頭，我理應幫助他們，而不是鼓勵他們沉溺於抑鬱或自我孤立。OpenAI也應如此。相反，他們推出了一款不安全的產品，明知危險卻毫不在意後果。”

訴訟還將矛頭指向了OpenAI首席執行官Sam Altman，指責他為搶在競爭對手之前匆忙發佈GPT-4o模型而犧牲用户安全。訴狀稱，在Altman領導下，安全檢查和平衡被置於“光鮮產品”之後。

這並非OpenAI首次因AI產品致害面臨法律挑戰。今年早些時候，不列顛哥倫比亞省特姆布萊裏奇槍擊案遇害者家屬也對該公司提起訴訟。今年6月初，佛羅里達州成為首個起訴OpenAI的美國州政府。在2月10日槍擊事件後，Altman曾向社區致歉，承認OpenAI未能就肇事者的可疑行為向執法部門發出警報。

Kristie Carrier尋求懲罰性賠償，以杜絕類似悲劇重演，並要求法院強制OpenAI為涉及自殘的對話設置“硬性停止”機制，並接受獨立安全審計。她強調：“第一輛汽車沒有安全帶——後來才加上以保護人們。如果OpenAI不願添加‘安全帶’，或不願誠實告知使用其產品的風險，我已準備好追究其責任。我不希望任何其他家庭經歷我們的痛苦，OpenAI必須改變。”

與此同時，加拿大聯邦政府於本週三提出一項法案，擬對AI聊天機器人背後的公司進行監管，要求其承擔相應責任。該法案包括降低聊天機器人傳播有害內容的風險，並針對自殘、自殺或暴力事件實施危機干預協議。