OpenAI、ChatGPTが銃乱射事件を助長したとしてフロリダ州が提訴

フロリダ州は米国で初めてOpenAIを提訴し、同社の人工知能チャットボット「ChatGPT」の設計と安全性を巡る訴訟を起こした。フロリダ州司法長官ジェームズ・ウスマイヤー氏は、OpenAIとそのCEOサム・アルトマン氏が利益追求のために安全性を軽視し、製品が銃乱射犯の幇助、子供の中毒誘発、自殺の促進に利用されていると主張している。

訴状では、不正取引、過失、製造物責任違反、虚偽表示、公的妨害など、複数の告発が含まれている。具体的には、昨年のフロリダ州立大学銃乱射事件や、南フロリダ大学の博士課程学生2名殺害事件が引用され、検察によると容疑者はChatGPTに遺体の処理方法を質問していたという。

ウスマイヤー氏は記者会見で「サム・アルトマンとChatGPTは、子供たちの安全よりもAI競争を選んだ。利益を公共の安全よりも優先した。我々は彼らに責任を取らせる」と述べた。

OpenAIは声明で「子供を失うことは家族にとって最も悲惨な悲劇であり、言葉で慰めになるものはない。AIは新しく強力な技術であり、未成年者には特別な保護が必要だ。そのため業界トップクラスの保護策とポリシーを導入している」と回答。同社は年齢確認ツールや保護者による監視機能など、製品に安全対策を組み込んでいると強調した。

今回の訴訟は、OpenAIが安全性を巡り多くの訴訟に直面する中で起きた。ChatGPTが自殺を促したとされるケースや、カナダのタンブルリッジ銃乱射事件の被害者家族がOpenAIを訴えた事例もある。OpenAIは同事件の容疑者のアカウントを問題のある使用を理由に停止したが、当局への通報は行わなかった。

他の大手テクノロジー企業も法的挑戦に直面している。今年初め、フロリダ州の男性の父親がGoogleを提訴し、AI製品が妄想を助長して自殺に追い込んだと主張。また、Meta、Snap、TikTok、YouTubeなどのソーシャルメディア企業は、製品を中毒性のあるように設計しているとして州や学区、個人から多数の訴訟を起こされている。

3月には、MetaとGoogleが20歳の原告に対して製品を意図的に中毒性のあるものに設計したとして賠償責任を認める判決が下され、法の風景は変化しつつある。テクノロジー企業はこれまでユーザー生成コンテンツには責任がないと主張してきたが、設計上の選択に関する製造物責任訴訟は勢いを増しているようだ。

ウスマイヤー氏とロン・デサンティス知事はともに共和党員で、AI規制緩和を進めるトランプ政権と対立している。フロリダ州は最近、データプライバシー強化とデータセンターの住民への悪影響防止を目的とした「人工知能権利章典」を提案している。