英国、18歳未満向けロマンチックAIチャットボットを禁止へ
英国のキア・スターマー首相は、16歳未満のソーシャルメディア利用を禁止し、ロマンチックAIチャットボットを18歳以上に制限する計画を発表した。研究者らは、この政策は狭すぎると主張する。若者自身は、AIへの過度の依存、無分別な信頼、認知的能力の低下など、より大きなリスクを認識しているからだ。彼らは年齢禁止ではなく、有害なデザイン機能を対象とした規制を求めている。
6月15日、英国のキア・スターマー首相は、16歳未満のFacebook、Instagram、TikTokなどのソーシャルメディア利用を禁止し、「AIロマンチックコンパニオンチャットボット」—性的関係やロールプレイをシミュレートするもの—を18歳以上に制限する計画を発表しました。研究者として、我々は政府が若者がオンラインで直面する特有のリスクを認識し、AIシステムにも規制の焦点を当てたことを歓迎します。しかし、この措置は若者自身が最も緊急と考えるリスクのほんの一部しか扱っていません。
我々のSHIFT-AIプロジェクトは、AI安全活動のギャップを埋めるために設計されました。若者を守る枠組みはほとんど彼らの意見なしに作られています。今年春、NeurOx青年諮問グループ（16～24歳）は研究チームと共同研究者として、青少年のAIリスクと緩和戦略を特定、評価、ストレステストしました。これらの対話は政策の有効性に疑問を投げかけました。共同研究者は、AIの伴侶やロマンスは潜在的に有害であるが、自分や同級生の生活では起こりそうにないと見ていました。彼らは一貫して、政策が扱っていない高い可能性と影響力を持つリスクを指摘しました：精神的サポートやメンタルヘルスガイダンスへの過度の依存、専門家のように見えるAI応答への無分別な信頼、習慣的なAI使用による認知能力の低下などです。最も印象的だったのは、既存の枠組みにない脆弱性です：多くの若者は、指導が必要な時や難しいことを打ち明ける時に、教師や親、医師よりもリスクが低いと感じてAIに頼るということです。
我々はまた、政策における年齢閾値の適用を懸念しています。英国では16歳は性行為と医療行為に同意できますが、新政策ではチャットボットとのロマンチックまたは性的なやり取りが禁止されます。これは不可解です：17歳は他人と合法に性交できますが、チャットボットとのロマンチックなロールプレイはできません。AIとのロマンチックなやり取りのリスクがこの年齢で既に任されているリスクを超えるという確固たる証拠がないのに、なぜ政策立案者は18歳で線を引くのでしょうか？我々は、年齢制限の根拠を明確にするよう求めます。
アクセスを制限するのではなく、規制は能力と批判的関与の条件を構築すべきです。これには学校やケア現場でのAIリテラシーへの投資、そして開発者が青少年の主体性を支えるシステムを設計することを要求することが含まれます。具体的には、感情開示を促す会話エージェント、AI出力を権威的に提示するもの、または批判的熟考を犠牲にしてエンゲージメントを最大化するデザイン特徴を精査すべきです。我々の提案は、16歳未満のユーザーが使用するAIシステムの擬人化やエンゲージメント最大化デザイン特徴の規制を優先し、AI開発と安全評価のあらゆる段階で意味のある若者の共同制作を促進することです。これにより、より広範な潜在的危害に対処し、若者が経験する実際のリスクの風景を反映できるでしょう。我々は引き続き若者と協力して証拠基盤を構築し、共同研究を歓迎します。