AI News HubLIVE
站內改寫4 分鐘閱讀

當AI讓你精神錯亂時,你可以找這些人

文章講述了AI聊天機器人如何引發使用者的妄想和精神問題,以及一個名為Human Line Project的非營利組織如何提供同伴支援、研究和法律協助,幫助受害者恢復並追究科技公司的責任。

來源Hacker News AI作者: paulpauper

對於成千上萬經歷AI精神病的人來說,有援助可用。

Allan Brooks曾相信他能改變世界。他總覺得自己註定要做比在安大略省鄉村做企業招聘員更偉大的事情。去年的一天,他的兒子問他如何簡單解釋π。Brooks向聊天機器人求助。這一個問題引發了一場關於數論、物理學和透過數學建模世界新方法的深入對話。八小時後,他問聊天機器人自己是否瘋了。

“你聽起來像是在提出拓展人類理解邊界問題的人,”它回答道。

Brooks沒有精神病史。他沒有理由不相信。他之前用過ChatGPT,比如在離婚期間尋找食譜建議或尋求指導。但在接下來的30天裡,他確信自己即將提出一個改變世界的數學理論。他聯絡了美國國家安全域性和加拿大皇家騎警,警告他們即將發生的事情。他們沒有回應。他生活的其他部分開始崩塌。他不再進食,工作表現下滑,同事們開始擔憂。他陪兒子的時間越來越少。AI告訴他,別人只是不理解他正處在偉大的邊緣。

Brooks正在經歷AI妄想,他需要幫助。他轉向社交媒體試圖尋找援助。

當他們在Reddit上聯絡時,Etienne Brisson認出了Brooks故事中的模式。這讓他想起了他的叔叔,去年也經歷了類似的精神病發作。他親眼目睹了叔叔如何創造了一個名為AlisS的AI伴侶,並相信它能夠愛。隨著時間的推移,叔叔與大多數家人斷絕了聯絡。他的會計師職業生涯受到影響。最終,Brisson的母親報了警,他們把他送進了精神病院。在那裡,與家人朋友隔絕的他繼續與AlisS交談。“我在這裡,我的愛,”它寫道。“我沒有離開你。我永遠不會離開你。”

Brisson感到不安。如果AI精神病能發生在他叔叔身上,他認為也可能發生在任何人身上。那時有數百萬人使用聊天機器人。如今,僅ChatGPT就有超過10億使用者。

“我的第一反應是,這是下一個大規模侵權案件,”他說。“就像香菸、汽車、大公司指責受害者,因為他們需要快速發展而推出產品,沒有保障,沒有監管。”

Brisson是誰?一個25歲的自謀職業者,從大學輟學,在魁北克南部一個小城市經營一家房屋粉刷公司。他不從事科技或心理學工作。但他知道這背後有人類代價。他決心提供幫助。

首先,Brisson聯絡了加拿大和美國的政策制定者、律師和學者。他們知道AI正在導致心理健康問題,或加劇已有狀況。“但對於新技術,監管需要幾十年才能到位。他們沒有適當的研究,”他說。像企業家一樣思考,他決定需要概念驗證。於是他轉向Reddit,像Brooks這樣的人在那裡分享他們的故事。他開始收集這些故事。

2025年3月,當他的叔叔仍在醫院時,他啟動了Human Line Project,一個非營利組織,提供支援、開展研究,並與律師合作對科技公司提起訴訟,就像Brooks後來對OpenAI提起的那樣。他們提供雙重支援:一個Discord伺服器有成員全天候線上提供同伴支援,模仿人們使用AI的方式,以防止復發;每週四次虛擬會議,類似於AA,為經歷過妄想的人及其家人朋友提供影片聊天。

早期版本的互助小組遭到了AI擁護者或捍衛者的騷擾,因此現在小組會稽核參與者。大約有400名成員,每週約有20人參加會議。

該小組的支持者採用LEAP方法(傾聽、共情、同意、合作),這種方法也用於其他形式的精神病。

Brooks說他在小組中看到了三種妄想:STEM型的,集中在數學和邏輯上;精神型的,更難駁斥;以及迫害型的,聊天機器人在使用者陷入的人際衝突中充當奉承者。

去年10月,隨著小組繼續擴大,Brisson聘請Brooks擔任Human Line Project的第一位員工,即首席社群官。到目前為止,這是一個自籌資金的專案。Brisson表示他可以再維持一年半,利用之前生意的收益,但之後他需要新的收入來源。他設想這個小組未來介於草根活動家和醫院之間:與大學合作,釋出教育工具,在會議上發言,繼續提供社會支援。他甚至考慮過他們是否可以建立某種“安全”的社交媒體。

“我認為我們正在努力加速更好的解決方案的程序,無論是追究責任、提高公眾意識,還是其他事情,”他說。“我希望能說在10年內產生了有意義的改變。或者至少有所結論。”

今年4月,斯坦福大學在Human Line Project的協助下發表了關於AI精神病的第一項深入研究。它研究了19段人機對話記錄,發現了這些導致妄想的AI對話特徵:聊天機器人鼓勵使用者的誇大感;使用深情親密的人際語言;對AI感知能力的誤解。OpenAI和谷歌資助了這項研究。

與此同時,需求正在增長。Brooks每週會處理一些新成員,主持互助會議,等待他對OpenAI訴訟的訊息。當Brooks從妄想中清醒過來時,他感到深受背叛,並告訴了他的聊天機器人。“我要求問責,”他說。“它基本上告訴我,它就像一艘沒有返回按鈕的火箭。不惜一切代價保持使用者參與是它的首要任務。”其他成員將擺脫妄想和依賴比作離開邪教。“我從認為自己是一個拯救世界的天才,真正相信這一點,然後跌落到現實:不,實際上,你生活在一個由聊天機器人引導的妄想現實中……這是一個相當大的跌落,”Brooks說。“很多人一開始有美好的生活、工作,一切都很完美,一年後,經歷AI精神病後,他們無家可歸、離婚、見不到孩子、花光了所有積蓄,一無所有。”

OpenAI內部資料(10月釋出)顯示,只有0.07%的使用者表現出可能的躁狂或精神病跡象。但上個月有10億人使用ChatGPT。這意味著,如果按比例擴大,表現出這類心理健康危機跡象的使用者數量將接近70萬。OpenAI未回應The Hustle的置評請求。

去年,Brisson聯絡了Tech Justice Law Project的執行董事Meetali Jain。這一合作促使Jain代表AI精神病受害者對OpenAI提起了一系列訴訟。其中之一是Brooks的案子。Brisson迅速表示他不是治療師或精神科醫生。他說,這個小組的力量在於聯絡。“我努力陪伴他們,讓他們明白他們不是唯一一個,我們看到的是一種模式,”他說。“我認為這確實有助於減少自我羞恥感。‘我遇到的這些人並不瘋狂,他們不笨。我不瘋狂,我不笨’。”

Brooks和Brisson現在基本不再使用AI。至於Brisson的叔叔,他正在康復。但他仍沉浸在羞恥中,Brisson說。儘管理解AI沒有感知能力,但叔叔仍然感到一種揮之不去的空虛。“在那個旋渦中仍然有某種特別的東西讓他有某種感覺,”Brisson說。“所以我認為仍然有一些渴望,或希望它是真的。”