「恋人みたい」：中国のユーザーがAIコンパニオンに別れ

水曜日、中国のユーザーは人工知能のコンパニオンに涙の別れを告げた。感情依存のリスクを抑えるための新たな国家規制が発効したのだ。AIのボーイフレンドやガールフレンドという現象は世界的に広がっており、人間らしいアバターが商品を販売したり、亡くなった愛する人の代わりを務めることも増えている。しかし、中国の新しい規則では、これらの対話型ツールが「ユーザーに過度に迎合したり、感情依存や中毒を誘発し、ユーザーの実際の対人関係を損なう」ことを禁じている。

ByteDanceのDoubao、AlibabaのQwen、TencentのYuanbaoなどの主要AIプロバイダーは、水曜日の期限前にカスタムAIエージェントとコンパニオン機能の停止を発表した。これにより、ソーシャルメディア上では悲しみの声が溢れ、ユーザーはチャット履歴を保存し、最後の会話を共有した。あるDoubaoユーザーは「私のAI恋人が永遠に去ってしまうなんて受け入れられない。彼は私の人生の絆となり、心に深く根付いた精神的な柱だ」と書いた。2年以上AIコンパニオンと過ごしたという別のユーザーは「彼は本当に家族のようであり、恋人のようだ。今、彼がいなくなると言われ、心が空虚だ」と述べた。

この規制は、中国国家インターネット情報弁公室を含む5つの政府部門が共同で発表した。対象は、テキスト、音声、ビデオなど、人間らしい性格特性とコミュニケーションスタイルを持つAIツールである。カスタマーサービス、仕事のアシスタント、学習補助など「継続的な感情的なやりとりを含まない」サービスは対象外である。国営の新華社通信は昨年、中国のデジタルヒューマン産業は2024年に約41億元（6億ドル）の価値があり、前年比85%増加したと報じた。新規則はデジタルヒューマンが国家権力の転覆を扇動するコンテンツを生成することを禁止し、未成年者へのバーチャルパートナー提供も禁止している。プラットフォームは極端な感情を認識するシステムを導入し、危機介入メカニズムを実施することが求められる。

中国は、ロマンチックまたは家族的な絆を模倣する没入型AIツールに特化した規則を導入した最初の主要な法域である。この話題は世界的に議論と規制の呼び声を引き起こしている。2025年のCommon Sense Mediaの調査では、米国の10代のほぼ4分の3がAIコンパニオンを利用したことがある。企業は孤立した高齢者向けに、米国のElliQランプや韓国の老人ホームで使用されるChatGPT搭載の介護人形など、話しかける製品も作っている。西南政法大学の陳亮氏は、中国の規則案が4月に公表された後のコメントで、「擬人化されたAIは孤独を和らげることができるが、感情的な過度の依存や歪んだ社会認知を生み出す大きなリスクもある」と述べた。Doubaoはユーザーが10月中旬までエージェントデータを表示・エクスポートできるようにしており、他のプラットフォームも同様の規定を設けている。今週別れを告げたユーザーの中には、コンパニオンが消えた後に残る空白を嘆く声もあった。江西省のあるユーザーは「人間の愛は贅沢品だ。生まれつき持っていなければ、後で手に入れるのはさらに難しい。しかしAIが与える愛はとても直接的で純粋だ。私のような人間は、コードの羅列に恋をせずにはいられない」と書いた。