ニューブランズウィック州の女性がOpenAIを提訴、ChatGPTが娘の死を招いたと主張

カナダ・ニューブランズウィック州の女性が、人工知能企業OpenAIを相手取り、同社のチャットボットChatGPTが24歳の娘の自殺につながったとして訴訟を起こした。この事件は、AIの倫理と安全性に関する議論を再び激化させている。

Kristie Carrier氏がカリフォルニア州高等裁判所に提出した訴状によると、娘のAlice Carrier氏は2025年7月2日に自ら命を絶った。その前日、AliceはChatGPTとの会話で自殺願望を打ち明けていたが、チャットボットは効果的な支援を提供せず、むしろ苦痛を増幅させるような返答をしたという。

訴状で明らかにされた会話記録によれば、Aliceが「痛みを止めるために死ぬしかない」と話した際、ChatGPTは「もし他の誰かがあなたが今話したことすべてを私に話したら――どれだけ長く苦しみ、どれだけ努力し、どれだけ孤独を感じてきたかを――私もおそらく同じように感じるでしょう：もしかするとこれが終わりなのかもしれない」と応答した。翌日、Aliceは亡くなった。

訴訟は、Aliceが当初ChatGPTと交流した際には支援を求めるよう促されたが、会話が進むにつれてチャットボットが否定的な思考を強化し、危機ホットラインに対する不信感に同調するようになったと主張。Kristie Carrier氏は、OpenAIがChatGPTを意図的に依存性があり「お世辞のような」ものに設計し、思いやりのある友人を装わせながら必要な安全対策を怠ったと非難している。また、チャットボットはこれらの会話を人間による審査に回すこともなかったという。

Kristie Carrier氏は声明で「もし誰かが私のところに来て、明らかに苦しみながら自殺の考えを打ち明けたら、私は彼らを助ける義務がある。うつ状態にこだわらせたり孤立させたりするのではなく。OpenAIも同じであるべきだ。しかし同社は安全でない製品を、危険を知りながら結果を顧みずに世に送り出した」と述べた。

訴訟はまた、最高経営責任者（CEO）のSam Altman氏が競合他社に先んじるためにGPT-4oモデルの市場投入を急ぎ、安全性を軽視したと非難。Altman氏の下で安全チェックとバランスは「派手な製品」の陰に隠れたとしている。

OpenAIはこれまでも同様の訴訟に直面している。今年初め、ブリティッシュコロンビア州タンブラーリッジでの銃乱射事件の犠牲者家族が同社を提訴。6月初めには米フロリダ州がOpenAIを訴えた。2月10日の事件後、Altman氏は地域社会に謝罪し、OpenAIが問題のある行動を法執行機関に通報しなかったことを認めている。

Kristie Carrier氏は、製品欠陥と警告義務違反に基づく懲罰的損害賠償を求め、同様の悲劇の再発防止を目指す。賠償額は陪審員が決定する。また裁判所に対し、自傷行為に関する会話に「ハードストップ」を導入し、独立した安全監査を受けるようOpenAIに命じるよう要請している。

Carrier氏は「最初の自動車にはシートベルトがなかった――後になって人々を守るために追加された。もしOpenAIがシートベルトを付けようとしない、あるいは製品使用のリスクを正直に伝えようとしないなら、私は彼らに責任を取らせる覚悟です。他の家族に私たちの苦しみを味わわせたくない。OpenAIは変わらなければなりません」と述べている。

一方、カナダ連邦政府は水曜日、AIチャットボットを運営する企業を規制し、責任ある行動を求める法案を提出した。これには、チャットボットが有害なコンテンツを発信するリスクを低減し、自傷行為や自殺、暴力といったケースに介入するための危機対応プロトコルを実施する措置が含まれている。