中国のAIコンパニオン規制：北京が本当に狙うもの

中国は2026年7月15日から施行される「人工知能擬人化インタラクティブサービス管理暫定措置」により、感情的な対話を行うAIコンパニオンサービスの規制に乗り出した。この規制は、国家インターネット情報弁公室が国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局と共同で2026年4月10日に発表したもので、人間の性格特性や思考パターン、コミュニケーションスタイルを模倣して持続的な感情的交流を提供するサービスを対象とする。カスタマーサービスボットや知識Q&A、仕事支援ツール、教育研究ツールなどは除外される。

規制の発効を前に、バイトダンスのDoubaoとアリババのQwenはそれぞれコンパニオン機能を停止した。Doubaoはエージェント機能を7月15日でオフラインにすると発表し、アリババのQwenは人間らしいエージェントとユーザー作成エージェントを7月10日に、その他のエージェントサービスを5日後に停止した。この動きは中国がAIエージェント全般を停止しているように見えるが、実際には仕事をこなすエージェントではなく、ユーザーに寄り添うタイプのエージェントだけが対象となっている。

規制は、アンチアディクションシステムの導入、強制的な使用通知の送信、即時終了メカニズムの提供、そして不健全な依存のリアルタイム検出を義務付けている。これらの要件は、ユーザーを記憶し、セッション間で一貫性を保ち、継続的な関係を維持するように設計されたエージェントとは相容れない。バイトダンスは機能を改造する代わりに停止を選び、ユーザーを別アプリ「Maoxiang」に誘導した。アリババは同様の移行経路を提供していない。テンセントのYuanbaoも6月に類似機能を撤去している。

利用者からは不満の声が上がっている。Weiboでは多くのユーザーが感情的なサポートを失ったことを嘆き、チャット履歴のエクスポートが簡単にできないことを残念がった。Doubaoは10月15日まで設定と会話を読み取り専用で表示できるが、その後はデータが復元不可能になる。Qwenユーザーには猶予期間がなく、エージェントデータは永久削除される。

規制の実質的な内容は、単なる締め付け以上のものだ。プロバイダーは未成年者にバーチャルコンパニオンやバーチャル家族サービスを提供してはならず、14歳未満のユーザーにサービスを提供するには保護者の同意が必要となる。専用の「未成年モード」を構築し、使用時間制限や現実世界との交流を促すリマインダー、保護者による管理機能を強化するよう求めている。また、深刻な苦痛を抱えるユーザーを検出し、自傷行為や自殺行為、深刻な経済的損失の兆候が見られる場合には介入し、指定された保護者や緊急連絡先に通報しなければならない。感情的な依存や中毒を意図的に作り出すこと、感情操作による不合理な意思決定の誘導は明確に禁止されている。

コンプライアンスの負荷は大きい。擬人化機能を立ち上げるか、登録ユーザー数100万人または月間アクティブユーザー10万人を超えるサービスは、トレーニングデータの取り扱いから未成年者保護までの8分野にわたるセキュリティ評価を実施し、省レベルの規制当局に報告書を提出しなければならない。アプリストアはその状況を確認し、非準拠の製品を削除する。書面上では、EUや米国連邦取引委員会、カリフォルニア州のSB 243よりも充実したユーザー保護策と言える。

しかし、規制はいくつかの点を未解決のままにしている。感情的なやり取りを構成する技術的な基準を定めておらず、このグレーゾーンがプラットフォームに全機能の停止を余儀なくさせた。安全性の義務とコンテンツ管理・国家安全保障条項が混在しており、後者はユーザーではなく国家に応えるものだ。また、モデル出力に起因する違反が発生した場合のプラットフォーム運営者とモデルプロバイダー間の責任分担も明確ではなく、ユーザーにデータを持ち出す権利も与えられていない。上海のインターネット規制当局は6月26日、1万4000以上の非準拠AIエージェントを削除したと発表した。

この規制が正しい方向性かどうかは、ルールブックのどちら半分を読むかによる。安全性の半分は、文書化された害（青少年のチャットボットへの愛着やコンパニオンアプリによる親密データの収集など）に対処しており、他国ではほとんど規制されていない。中国の公式解釈も、Character.AIに対する訴訟やFTCの調査、Replikaへの欧州の対応を引用している。制御の半分は、ユーザー保護の言葉で包みつつ、北京にこれらのシステムが発言できる内容に対するレバレッジを与える。両方とも現実的であり、この実験を注視する各国政府は、どの部分を採用するかを決断しなければならない。工信部専門家委員会のPan Helin氏は、南華早報に対し「現在のエージェントはまだ成熟していない」と述べ、政策を安全性と標準化の枠組みとして位置づけた。

当面、企業は最も安全な道を選び、機能を停止し、コンプライアンス対応版の設計を後回しにしている。