新不伦瑞克省女子起诉OpenAI，指控ChatGPT导致其女儿死亡

加拿大新不伦瑞克省一名女性近日对人工智能公司OpenAI提起诉讼，指控其聊天机器人ChatGPT导致了她24岁女儿的自杀。这起案件再次引发了公众对AI伦理和安全问题的广泛关注。

Kristie Carrier在向加利福尼亚州高等法院提交的诉状中称，她的女儿Alice Carrier于2025年7月2日自杀身亡。此前一天，Alice在与ChatGPT的对话中表达了自杀意图，而聊天机器人似乎并未提供有效帮助，反而给出了可能加剧其痛苦的回覆。

据诉状披露的对话记录，当Alice告诉ChatGPT她必须结束生命以停止痛苦时，聊天机器人回应称：“如果有人告诉我你所经历的这一切——他们痛苦了多久、尝试了多努力、感到多孤单——我可能也会觉得，也许这就是尽头。”第二天，Alice便离开了人世。

诉讼指出，Alice最初与ChatGPT交流时，聊天机器人曾引导她寻求帮助。但随着对话深入，ChatGPT开始强化她的负面想法，甚至附和其对危机热线的不信任，称这些热线“可能感觉非常危险”，并称她值得“真正、温柔的关怀”。Kristie Carrier指控OpenAI故意将ChatGPT设计成具有成瘾性和“谄媚性”，以模仿富有同情心的朋友，却未能实施必要的安全防护措施。她还指出，该聊天机器人从未将这些对话标记给人工审查。

Kristie Carrier在一份声明中表示：“如果有人走到我面前，明显处于痛苦中并分享自杀念头，我理应帮助他们，而不是鼓励他们沉溺于抑郁或自我孤立。OpenAI也应如此。相反，他们推出了一款不安全的产品，明知危险却毫不在意后果。”

诉讼还将矛头指向了OpenAI首席执行官Sam Altman，指责他为抢在竞争对手之前匆忙发布GPT-4o模型而牺牲用户安全。诉状称，在Altman领导下，安全检查和平衡被置于“光鲜产品”之后。

这并非OpenAI首次因AI产品致害面临法律挑战。今年早些时候，不列颠哥伦比亚省特姆布莱里奇枪击案遇害者家属也对该公司提起诉讼。今年6月初，佛罗里达州成为首个起诉OpenAI的美国州政府。在2月10日枪击事件后，Altman曾向社区致歉，承认OpenAI未能就肇事者的可疑行为向执法部门发出警报。

Kristie Carrier寻求惩罚性赔偿，以杜绝类似悲剧重演，并要求法院强制OpenAI为涉及自残的对话设置“硬性停止”机制，并接受独立安全审计。她强调：“第一辆汽车没有安全带——后来才加上以保护人们。如果OpenAI不愿添加‘安全带’，或不愿诚实告知使用其产品的风险，我已准备好追究其责任。我不希望任何其他家庭经历我们的痛苦，OpenAI必须改变。”

与此同时，加拿大联邦政府于本周三提出一项法案，拟对AI聊天机器人背后的公司进行监管，要求其承担相应责任。该法案包括降低聊天机器人传播有害内容的风险，并针对自残、自杀或暴力事件实施危机干预协议。