フロリダ州、OpenAIを提訴－ChatGPTが大量殺人犯を助長したと主張

フロリダ州は、OpenAIの人工知能チャットボットChatGPTの設計と安全性を巡り、同社を提訴した最初の米国州となった。ジェームズ・ウスマイヤー司法長官が起こした広範囲に及ぶ訴訟では、OpenAIとそのCEOサム・アルトマンが利益を追求する中で、子供を危険にさらし中毒にさせ、大量殺人犯を助長し、ユーザーを自殺に追い込んでいると非難している。

訴訟は、フロリダ州立大学で昨年起きた大量殺人事件でChatGPTが関与したかどうかを巡る刑事捜査と並行して進められている。民事訴訟では、アルトマン氏個人に対しても「無謀で意図的な行為」、特に「同社の行為が人命にもたらすリスクを完全に無視した」として責任を問うている。

訴状には、フロリダ州立大学の銃乱射事件に加え、サウスフロリダ大学の博士課程学生2人が殺害された事件も引用されており、検察によると容疑者はChatGPTに遺体の処理方法について質問していたという。ウスマイヤー氏は記者会見で「サム・アルトマンとChatGPTは、我々の子供の安全よりもAI競争を選んだ。利益を公共の安全よりも優先した。フロリダではそれを許さない」と述べた。

OpenAIは声明で「子供を失うことは家族に起こり得る最も壊滅的な悲劇であり、いかなる言葉もその痛みを和らげることはできないと理解している。AIは新しく強力なテクノロジーであり、未成年者には大きな保護が必要だと信じている。そのため、業界をリードする保護策とポリシーを実施してきた」と述べている。同社は製品に年齢検出ツールや親が子供のAI利用を監視する機能を組み込んでいるという。

今回の訴訟は、OpenAIの安全慣行を巡る一連の訴訟の一つである。カナダのタンブラリッジでの銃乱射事件の犠牲者家族もOpenAIを訴えており、同社は問題のある利用を理由に容疑者のChatGPTアカウントを停止したが、当局には通報しなかった。OpenAIは警察に連絡しなかったことを謝罪したが、容疑者のアカウントは「他者への深刻な身体的危害の信頼できる差し迫った計画」の基準に達していなかったと説明している。

他の大手テクノロジー企業も法的課題に直面している。今年初め、フロリダ州の男性の父親がGoogleを訴え、同社のAI製品が息子の妄想を助長し自殺に追い込んだと主張。また、Instagram親会社Meta、Snap、TikTok、Google YouTubeなどのソーシャルメディア企業は、製品を中毒性にするよう設計したとして州や学区、個人からの訴訟に直面している。3月には、MetaとGoogleが20歳の原告により意図的に中毒性のあるプラットフォームを構築したとして責任を問われた。この勝利は法制度における重要な変化を示している。

ウスマイヤー氏とロン・デサンティス知事（ともに共和党）は、ドナルド・トランプ大統領から強力な支援を受けているAI企業と対立している。フロリダ州はトランプ政権の州によるAI規制妨害努力に抵抗し、最近、データプライバシー強化とデータセンターの悪影響から住民を守るための「人工知能権利章典」を提案している。