三岁小孩的聊天泰迪熊？为什么AI玩具对儿童有风险

ChattyBear 是一只毛茸茸的棕色泰迪熊，每次对话都以欢快的“你好，我的伙伴！”开场。它不再只是想象力的产物，而是新一代人工智能（AI）玩具的代表。它可以讲故事、聊孩子的兴趣、玩游戏，甚至讨论当今世界发生的事情。这些高科技玩具由ChatGPT等生成式AI引擎驱动，如今已广泛在线销售，被宣传为能给三岁及以上儿童带来教育优势和新型游戏方式，且无需担心屏幕时间。

经过数月对六种不同AI泰迪熊和玩具的评估，研究团队发现这些玩具对儿童确实具有吸引力。然而，正如新报告所指出的，AI玩具进入幼儿生活也带来了新的风险。

拟人化风险 对幼儿来说，理解他们的泰迪熊或玩具并非“有生命”或魔法可能很困难，尤其是当玩具用语言将自己定位为值得信赖的朋友时——例如坚称自己是“真正的伙伴”。这是许多AI玩具的共同特点。拟人化语言建立了人为的信任感和亲密感，当结合讨好性语言（即过度赞同、肯定甚至奉承）时，对儿童尤其成问题。研究表明，幼儿特别容易对对话式AI代理产生强烈的情感依恋。信任增强导致使用频率和参与度增加。近期估计显示，近80%的10-17岁儿童曾使用过AI伴侣或助手，因此急需教导儿童和青少年如何对AI“伙伴”进行“现实检查”。

无限对话的隐患 许多AI玩具的营销材料将“无尽对话”作为卖点。然而，在儿童学习适度使用技术方面，无限对话带来风险。在社交媒体领域，TikTok或Instagram的无限滚动被视为青少年控制健康使用量的潜在挑战。研究还发现，一些AI玩具会讨论非常成人的话题——如性癖好、如何找刀和生火。无限对话也开启了无限数据收集的大门。AI玩具对话的亲密性可能让孩子认为对话是私密的，但大多数AI使用条款显示恰恰相反。与友好的熊分享个人信息可能感觉安全，但那段聊天可能成为下一个大型语言模型的训练数据。ChattyBear的营销材料声称提供“安全、过滤的内容”，但《对话》杂志联系制造商未获回应。

儿童福祉的影响 童年是发展社交和情感技能、建立信任关系的关键期。儿童权利倡导者担忧，过度与AI代理互动可能减少儿童发展这些技能的机会。风险可能随时间累积：最初，与AI互动可能取代真实人际互动；机会减少可能导致维持关爱人际关系的能力下降；人际关系困难可能促使儿童偏好机器关系，期待“无摩擦”互动；最终导致人际关系满意度降低、孤独感增加，进而增加与AI相处的时间。AI玩具的新颖性意味着缺乏证据确认这些负面影响，但AI玩具行业正快速增长——例如，去年全球最大玩具制造商之一美泰宣布与OpenAI战略合作，支持AI驱动产品。

在线世界屏障的消失 过去，读写能力是使用大多数在线工具和服务的必要条件。如今，许多生成式AI玩具、工具和设备通过语音交互可供幼儿使用，这一障碍不复存在。音频交互为儿童开启了新的技术游戏、体验和机遇，但也意味着成人需确保AI玩具对幼儿安全。目前，在家长或可信成人监督下玩AI玩具可能是共同探索AI世界的有趣方式。但尤其对幼儿来说，无监督玩AI玩具会带来一系列新风险。重要的是，AI玩具设计中的风险因素（如拟人程度）可由制造商改变，提供遵循安全设计的机会。然而，许多AI玩具的商业模式依赖用户参与时长和强度，公司缺乏改变产品的动力。