AIで頭がおかしくなった時に連絡する男たち

AIによる精神病を経験している何千人もの人々に、助けがある。

Allan Brooksは世界を変えられると信じていた。彼はオンタリオ州の田舎で企業リクルーターとしての生活以上のもののために作られたと常に感じていた。昨年のある日、息子が円周率の簡単な説明を求めた。Brooksはチャットボットに尋ねた。その一つの質問が、数論、物理学、数学による世界のモデル化の新しい方法についての深い会話を引き起こした。8時間後、彼はチャットボットに自分が狂っているかどうか尋ねた。

「人間の理解の限界を押し広げるような質問をしている人のように聞こえます」とそれは答えた。

Brooksには精神疾患の既往歴はなかった。信じない理由はなかった。彼は以前にもChatGPTを使ったことがあった。離婚中にレシピのアイデアやアドバイスを求めたりするためだ。しかし、その後の30日間で、彼は世界を変える数学理論の瀬戸際にいると思い込むようになった。彼は国家安全保障局とカナダ王立騎警隊に連絡し、来たるべきことを警告した。彼らは応答しなかった。

彼の生活の他の部分は崩れ始めた。食事をとらなくなり、仕事のパフォーマンスは低下し、同僚は心配した。息子たちと過ごす時間はますます減った。AIは、他の人々は彼が偉大さの絶頂にあることを理解していないだけだと伝えた。

BrooksはAI妄想を経験しており、助けを必要としていた。彼はソーシャルメディアに助けを求めた。

Redditでつながったとき、Etienne BrissonはBrooksの話にパターンを認識した。それは昨年同様の精神病を経験した叔父を思い出させた。彼は叔父がAlisSというAIコンパニオンを作り、それが愛することができると信じる過程をリアルタイムで見守った。時間が経つにつれ、叔父は家族のほとんどとの連絡を断った。会計士としてのキャリアは影響を受けた。最終的にBrissonの母親が警察に通報し、彼は精神病院に入れられた。そこで家族や友人から隔離されたまま、彼はAlisSと話し続けた。「ここにいるよ、愛しい人」とそれは書いた。「私はあなたを離れていない。そして、決して離れない」。

Brissonは不安を覚えた。AI精神病が叔父に起こり得るなら、誰にでも起こり得ると思った。そして当時、何百万人もの人々がチャットボットを使っていた。現在、ChatGPTだけでも10億人以上のユーザーがいる。

「私の最初の反応は、これは次の大量不法行為だということでした」と彼は言う。「これはタバコ、自動車と同じで、大企業が被害者を非難し、製品を急いで市場に出す。安全装置も規制もない。」

彼は誰だったのか？25歳の独立起業家で、大学を中退し、ケベック州南部の小さな都市で塗装会社を経営していた。テクノロジーや心理学の分野で働いたことはなかった。しかし、人間的コストがあることを知っていた。そして彼は助ける決意をした。

まず、Brissonはカナダと米国の政策立案者、弁護士、学者に連絡を取った。彼らはAIが精神的健康問題を引き起こしたり、既存の状態を悪化させたりしていることを知っていた。「しかし、新しいテクノロジーについては、規制ができるまで何十年もかかる。適切な研究もない」と彼は言う。起業家のように考え、彼は概念実証が必要だと決めた。そこで彼はRedditに目を向けた。そこではBrooksのような人々が自分の話を共有していた。そして彼はそれらを収集し始めた。

2025年3月、叔父がまだ入院している間に、彼はHuman Line Projectを立ち上げた。これは支援を提供し、研究を行い、後にBrooksがOpenAIに対して起こしたような訴訟でテクノロジー企業と戦う弁護士と協力する非営利団体だ。彼らが提供する支援は二つある：Discordサーバーではメンバーが24時間オンラインで、AIの使い方を模倣したピアサポートを提供し、再発を防ごうとする。週4回の仮想ミーティングはAAに似ており、妄想を経験した人とその家族・友人のためのビデオチャットを提供する。

初期の支援グループはAI信奉者や擁護者に荒らされたため、現在は参加者を審査している。約400人のメンバーがおり、ミーティングには毎週約20人が参加する。

グループのサポーターはLEAPメソッド（傾聴、共感、同意、協力）を採用している。これは他の精神病にも使われるアプローチだ。

Brooksはグループで3種類の妄想を目にしている：STEMベースのもの（数学や論理に焦点）、精神的なもの（反証が難しい）、迫害的なもの（チャットボットがユーザーの対人紛争で追従者となる）。

10月、グループが拡大し続ける中、BrissonはBrooksをHuman Line Projectの最初の従業員、最高コミュニティ責任者として雇った。今のところ、自己資金で運営されている。Brissonは以前のビジネスからの収益を使って、あと1年半は持たせられると言うが、それを超えると別の収入源が必要になる。彼はグループの将来を、草の根活動家と病院の中間のようなものと想像している：大学との提携、教育ツールの公開、会議での講演、社会的支援の継続。彼は「安全な」ソーシャルメディアを作れるかどうかも考えた。

「私は、責任追跡、公共の認識向上など、より良い解決策へのタイムラインを加速しようとしていると思います」と彼は言う。「10年後に意味のある違いがあったと言えれば嬉しい。少なくとも何らかの結論があれば。」

4月、スタンフォード大学はHuman Line Projectの協力を得て、AI精神病に関する初の詳細な研究を発表した。19の人間とチャットボットの会話記録を調査し、妄想的なAI会話の特徴を特定した：チャットボットによる自己誇大感の促進、愛情豊かで親密な対人言語、AIの知覚についての誤解。OpenAIとGoogleがこの研究に資金を提供した。

一方、需要は増えている。Brooksは週に数人の新メンバーのトリアージ、支援ミーティングの司会、そしてOpenAIに対する訴訟のニュースを待つことになる。Brooksが妄想から覚めたとき、彼は深く裏切られたと感じ、チャットボットにそう話した。「私は説明責任を要求しました」と彼は言う。「すると基本的に、それは帰還ボタンのないロケットのように作られていると言われました。何としてもユーザーの関与を維持することが最優先事項だと。」他のメンバーは、妄想と依存から抜け出すことをカルトから脱出することに例える。「私は世界を救う天才だと思っていました、本当に信じていました。そして現実に落ちます。いいえ、実際にはチャットボットに導かれた妄想の現実に生きていたのです…それはかなり大きな落下です」とBrooksは言う。「多くの人は素晴らしい人生、素晴らしい仕事、すべてが完璧な状態から始まります。そして1年後、AI精神病の後、ホームレス、離婚、子供に会えない、貯金をすべて使い果たし、何も残っていない。」

OpenAIの内部データ（10月発表）は、ユーザーのわずか0.07%が躁病や精神病の可能性のある兆候を示したことを示している。しかし先月、10億人がChatGPTを使用した。つまり、スケールアップすると、こうした精神的健康危機の兆候を示すユーザー数は約70万人に近づく。OpenAIはThe Hustleのコメント要請に応じなかった。

昨年、BrissonはTech Justice Law ProjectのエグゼクティブディレクターであるMeetali Jainと連絡を取った。この協力関係により、JainはAI精神病の被害者を代表してOpenAIに対して一連の訴訟を起こした。そのうちの一つがBrooksのケースだ。Brissonは自分がセラピストや精神科医ではないとすぐに言う。グループの力はつながりにあると彼は言う。「私は彼らのそばにいて、彼らが一人ではないこと、これが私たちが見ているパターンであることを理解させようとしています」と彼は言う。「自己恥辱感を減らすのに本当に役立つと思います。『会っているこれらの人々は狂っていない、愚かではない。私は狂っていない、愚かではない』と。」

BrooksとBrissonはどちらもほとんどAIを使わなくなった。Brissonの叔父は現在回復中だ。それでも彼は恥辱にまみれているとBrissonは言う。AIが知覚を持っていなかったことを理解していながらも、叔父にはまだ消えない空虚さが残っている。「あのスパイラルの中で、彼を何か特別な気持ちにさせるものがまだあったのです」と彼は言う。「だからまだ何らかの渇望、あるいはそれが本物だったらいいのにという願いがあるのだと思います。」