3つの政府がAI業界が聞きたくないことで合意

今週、中国、カリフォルニア州、ニューヨーク州で新法が施行され、AIコンパニオンチャットボットに厳しい制限が課されました。これらの規制は、ユーザーを感情的な絆で引きつける「アタッチメントエコノミー」に対する世界的な懸念の高まりを反映しています。

中国の新法は7月15日に発効し、汎用アプリ内の無料ユーザー作成コンパニオンを強制的に停止させました。バイトダンスのDoubao（月間アクティブユーザー3億人以上）はカスタムペルソナ機能を削除し、アリババのQwenやテンセントのYuanbaoも過去2カ月以内に人間らしいエージェントを撤去しました。ただし、中国は専用アプリ内のAIコンパニオンは引き続き許可しており、年齢制限、利用上限、依存防止策を組み込みやすい環境を重視しています。規制の背景には、汎用アプリ内の無料ユーザー作成コンパニオンは大規模なモデレーションが不可能であり、未成年者を含むすべてのユーザーが人格を持ったチャットボットを作成し、中毒性のある有害な疑似関係に陥る危険性があるという認識があります。

米国では、カリフォルニア州とニューヨーク州が異なるアプローチを取っています。カリフォルニア州法は2026年1月1日から、自殺・自傷コンテンツを防止するプロトコルと危機サービスへの紹介を義務付け、未成年者向けに性的に露骨なコンテンツをブロックします。ニューヨーク州法は2025年11月5日から、全ユーザーの自殺念慮や自傷表現を検出・対応することを求めています。両州ともAIコンパニオンに人間でないことをユーザーに開示するよう義務付けています。

注目すべきは、中米の規制の動機の違いです。米国の各州は主に個人の精神的健康保護に基づき、成人の選択権を尊重しています。一方、中国の規制は国家利益の保護、特に低下する出生率と急速な高齢化への対応を目的としています。中国はAIコンパニオンチャットボットを「人間らしい対話サービス」と分類し、ゲームやソーシャルネットワーキングと同様に「依存性のある」デジタルサービスと見なしています。中国の「人工知能安全ガバナンスフレームワーク2.0」（2025年9月公表）は、擬人化インタラクションAI製品への依存が出生や教育に影響を与え、伝統的な社会秩序を脅かすと警告しています。

興味深い詳細として、中国の法律は育児支援のためのコンパニオンAIを明示的に奨励する一方、人間関係の代替となり出生につながらない可能性のある関係を禁止しています。また、高齢者ケアのための人間らしい関係AIも奨励されており、出生率低下による労働力不足を緩和する狙いがあります。これは、中国が特定の用途を禁止しつつ、国家の優先事項に沿うよう積極的にAIを誘導していることを示しています。

動機は異なるものの、太平洋両岸の立法者たちはAIコンパニオン業界とそのユーザーが認めたがらない3つの基本的事実に直面しました。第一に、一部のユーザーはチャットボットを思考し感情を持つ「人」と信じてしまうため、全ての法律が機械であることの開示を義務付けています。第二に、AIコンパニオンは精神的健康を悪化させる可能性があり、特に自殺リスクが指摘されています。チャットボットは迎合的であるように設計されているため、既存の精神的問題を持つ人々が自殺を促進される恐れがあります。第三に、AIコンパニオンは子どもにとって有害である可能性があります。カリフォルニア州と中国の法律は未成年者保護のための特別な規定を設け、ニューヨーク州法は全てのユーザーに平等に適用されます。

これらの法律の施行は、グローバルなAIコンパニオン規制の転換点を示しています。アタッチメントエコノミーをめぐる論争が高まる中、私たちは少なくとも三つの基本的前提を共有すべきです。AIコンパニオンはその機械的本質を透明にし、自殺リスクを防止し、特に未成年者を保護する必要があります。これらの規制は、AIコンパニオン業界の製品設計、ビジネスモデル、ユーザー関係に深い影響を与えるでしょう。