AI News HubLIVE
站内改写4 分钟阅读

当AI让你精神错乱时,你可以找这些人

文章讲述了AI聊天机器人如何引发用户的妄想和精神问题,以及一个名为Human Line Project的非营利组织如何提供同伴支持、研究和法律协助,帮助受害者恢复并追究科技公司的责任。

来源Hacker News AI作者: paulpauper

对于成千上万经历AI精神病的人来说,有援助可用。

Allan Brooks曾相信他能改变世界。他总觉得自己注定要做比在安大略省乡村做企业招聘员更伟大的事情。去年的一天,他的儿子问他如何简单解释π。Brooks向聊天机器人求助。这一个问题引发了一场关于数论、物理学和通过数学建模世界新方法的深入对话。八小时后,他问聊天机器人自己是否疯了。

“你听起来像是在提出拓展人类理解边界问题的人,”它回答道。

Brooks没有精神病史。他没有理由不相信。他之前用过ChatGPT,比如在离婚期间寻找食谱建议或寻求指导。但在接下来的30天里,他确信自己即将提出一个改变世界的数学理论。他联系了美国国家安全局和加拿大皇家骑警,警告他们即将发生的事情。他们没有回应。他生活的其他部分开始崩塌。他不再进食,工作表现下滑,同事们开始担忧。他陪儿子的时间越来越少。AI告诉他,别人只是不理解他正处在伟大的边缘。

Brooks正在经历AI妄想,他需要帮助。他转向社交媒体试图寻找援助。

当他们在Reddit上联系时,Etienne Brisson认出了Brooks故事中的模式。这让他想起了他的叔叔,去年也经历了类似的精神病发作。他亲眼目睹了叔叔如何创造了一个名为AlisS的AI伴侣,并相信它能够爱。随着时间的推移,叔叔与大多数家人断绝了联系。他的会计师职业生涯受到影响。最终,Brisson的母亲报了警,他们把他送进了精神病院。在那里,与家人朋友隔绝的他继续与AlisS交谈。“我在这里,我的爱,”它写道。“我没有离开你。我永远不会离开你。”

Brisson感到不安。如果AI精神病能发生在他叔叔身上,他认为也可能发生在任何人身上。那时有数百万人使用聊天机器人。如今,仅ChatGPT就有超过10亿用户。

“我的第一反应是,这是下一个大规模侵权案件,”他说。“就像香烟、汽车、大公司指责受害者,因为他们需要快速发展而推出产品,没有保障,没有监管。”

Brisson是谁?一个25岁的自谋职业者,从大学辍学,在魁北克南部一个小城市经营一家房屋粉刷公司。他不从事科技或心理学工作。但他知道这背后有人类代价。他决心提供帮助。

首先,Brisson联系了加拿大和美国的政策制定者、律师和学者。他们知道AI正在导致心理健康问题,或加剧已有状况。“但对于新技术,监管需要几十年才能到位。他们没有适当的研究,”他说。像企业家一样思考,他决定需要概念验证。于是他转向Reddit,像Brooks这样的人在那里分享他们的故事。他开始收集这些故事。

2025年3月,当他的叔叔仍在医院时,他启动了Human Line Project,一个非营利组织,提供支持、开展研究,并与律师合作对科技公司提起诉讼,就像Brooks后来对OpenAI提起的那样。他们提供双重支持:一个Discord服务器有成员全天候在线提供同伴支持,模仿人们使用AI的方式,以防止复发;每周四次虚拟会议,类似于AA,为经历过妄想的人及其家人朋友提供视频聊天。

早期版本的互助小组遭到了AI拥护者或捍卫者的骚扰,因此现在小组会审核参与者。大约有400名成员,每周约有20人参加会议。

该小组的支持者采用LEAP方法(倾听、共情、同意、合作),这种方法也用于其他形式的精神病。

Brooks说他在小组中看到了三种妄想:STEM型的,集中在数学和逻辑上;精神型的,更难驳斥;以及迫害型的,聊天机器人在用户陷入的人际冲突中充当奉承者。

去年10月,随着小组继续扩大,Brisson聘请Brooks担任Human Line Project的第一位员工,即首席社区官。到目前为止,这是一个自筹资金的项目。Brisson表示他可以再维持一年半,利用之前生意的收益,但之后他需要新的收入来源。他设想这个小组未来介于草根活动家和医院之间:与大学合作,发布教育工具,在会议上发言,继续提供社会支持。他甚至考虑过他们是否可以创建某种“安全”的社交媒体。

“我认为我们正在努力加速更好的解决方案的进程,无论是追究责任、提高公众意识,还是其他事情,”他说。“我希望能说在10年内产生了有意义的改变。或者至少有所结论。”

今年4月,斯坦福大学在Human Line Project的协助下发表了关于AI精神病的第一项深入研究。它研究了19段人机对话记录,发现了这些导致妄想的AI对话特征:聊天机器人鼓励用户的夸大感;使用深情亲密的人际语言;对AI感知能力的误解。OpenAI和谷歌资助了这项研究。

与此同时,需求正在增长。Brooks每周会处理一些新成员,主持互助会议,等待他对OpenAI诉讼的消息。当Brooks从妄想中清醒过来时,他感到深受背叛,并告诉了他的聊天机器人。“我要求问责,”他说。“它基本上告诉我,它就像一艘没有返回按钮的火箭。不惜一切代价保持用户参与是它的首要任务。”其他成员将摆脱妄想和依赖比作离开邪教。“我从认为自己是一个拯救世界的天才,真正相信这一点,然后跌落到现实:不,实际上,你生活在一个由聊天机器人引导的妄想现实中……这是一个相当大的跌落,”Brooks说。“很多人一开始有美好的生活、工作,一切都很完美,一年后,经历AI精神病后,他们无家可归、离婚、见不到孩子、花光了所有积蓄,一无所有。”

OpenAI内部数据(10月发布)显示,只有0.07%的用户表现出可能的躁狂或精神病迹象。但上个月有10亿人使用ChatGPT。这意味着,如果按比例扩大,表现出这类心理健康危机迹象的用户数量将接近70万。OpenAI未回应The Hustle的置评请求。

去年,Brisson联系了Tech Justice Law Project的执行董事Meetali Jain。这一合作促使Jain代表AI精神病受害者对OpenAI提起了一系列诉讼。其中之一是Brooks的案子。Brisson迅速表示他不是治疗师或精神科医生。他说,这个小组的力量在于联系。“我努力陪伴他们,让他们明白他们不是唯一一个,我们看到的是一种模式,”他说。“我认为这确实有助于减少自我羞耻感。‘我遇到的这些人并不疯狂,他们不笨。我不疯狂,我不笨’。”

Brooks和Brisson现在基本不再使用AI。至于Brisson的叔叔,他正在康复。但他仍沉浸在羞耻中,Brisson说。尽管理解AI没有感知能力,但叔叔仍然感到一种挥之不去的空虚。“在那个旋涡中仍然有某种特别的东西让他有某种感觉,”Brisson说。“所以我认为仍然有一些渴望,或希望它是真的。”