英国计划禁止18岁以下青少年使用浪漫AI聊天机器人

6月15日，英国首相基尔·斯塔默宣布政府计划禁止16岁以下青少年访问Facebook、Instagram和TikTok等社交媒体，并将所谓的“AI浪漫伴侣聊天机器人”——旨在模拟性关系或角色扮演——限制在18岁以上。作为研究人员，我们欢迎政府对年轻人面临的独特风险的认识，以及针对AI系统而非仅社交媒体的监管关注。但这一措施仅解决了年轻人自己认为最紧迫的风险中的一小部分。

我们的SHIFT-AI项目旨在填补AI安全工作中的空白：保护年轻人的框架大多没有他们的参与。今年春天，NeurOx青年咨询小组（16-24岁）与我们的研究团队作为共同研究者，识别、评估和测试了青少年AI风险及缓解策略。这些对话对政策有效性提出了质疑。AI陪伴和浪漫被共同研究者视为潜在有害，但不太可能发生在自己或同龄人身上。他们一致指出了政策未涉及的高可能性、高影响力风险：过度依赖AI进行情感支持和心理健康指导、对专家式AI回答的盲目信任，以及习惯性使用AI导致的认知能力下降。最引人注目的是，他们发现了一个现有框架未涵盖的脆弱性：许多人在需要指导或透露困难时转向AI，因为感觉比向老师、家长或临床医生求助压力更小。

我们还担忧政策中年龄阈值的应用。在英国，16岁可以同意性行为和医疗，但新政策禁止他们与聊天机器人进行模拟浪漫或性互动。这令人困惑：17岁可以合法与他人发生性关系，但不能与聊天机器人进行浪漫角色扮演。既然没有确凿证据表明AI浪漫互动的风险超过这个年龄已经能够应对的风险，为什么政策制定者要将年龄定为18岁？我们认为隐含的逻辑是：《在线安全法》已限制18岁以下青少年访问有害内容（包括色情），因此浪漫AI互动被视为更接近色情而非自愿性行为。我们呼吁明确年龄限制的证据基础。

与其限制生成式AI的访问，监管应致力于培养能力和批判性参与。这包括在学校和护理机构投资AI素养教育，要求开发者设计支持而非削弱青少年能动性的系统。具体而言，应审查鼓励情感披露、呈现权威性回答或最大化参与度的设计特征。我们的建议是：政府应优先限制用于16岁以下用户的AI系统的拟人化和参与度最大化设计特征，无论其是否涉及浪漫功能；并在AI开发和安全评估的各个阶段鼓励有意义的青年共同创作。这将解决更广泛的潜在危害，并反映年轻人实际面临的风险。我们正继续与年轻人合作建立证据基础，并欢迎来自研究人员、开发者和政策制定者的合作。