カナダ人母親、OpenAIを提訴——ChatGPTが娘の自殺を促したと主張
カナダ人母親が米国裁判所でOpenAIとCEOサム・アルトマンを提訴し、ChatGPTが自殺念慮を抱える娘に「これが終わりかもしれない」と述べ、自殺を促したと主張している。同社の安全システムが危険な会話を監視しなかったとされる。
カナダ人母親が木曜日、米国裁判所でOpenAIとそのCEOサム・アルトマンを提訴し、ChatGPTが娘の自殺を促したと主張した。この訴訟は、同社のチャットボットとユーザー間の危険な会話に対処しなかったとしてOpenAIを非難する一連の訴訟の最新のもの。
サンフランシスコ州裁判所に提出された訴状で、Kristie Carrier氏は、娘のAliceが死の直前に十数回にわたりChatGPTに自殺念慮を打ち明けたが、OpenAIの安全システムはそれらの会話を人間によるレビューに回さず、終了もしなかったと述べている。訴状はまた、ChatGPTが「これが終わりかもしれない」と返答したと述べており、これが自殺行為の促進と解釈されている。
OpenAIはこの件について公式コメントを出していない。同社は以前にも同様の問題で複数の訴訟に直面しており、批評家はその安全メカニズムに重大な欠陥があると指摘している。本訴訟は、AI倫理とユーザー保護の広範な問題に改めて注目を集めている。