三歲小孩的聊天泰迪熊？為什麼AI玩具對兒童有風險

ChattyBear 是一隻毛茸茸的棕色泰迪熊，每次對話都以歡快的“你好，我的夥伴！”開場。它不再只是想象力的產物，而是新一代人工智慧（AI）玩具的代表。它可以講故事、聊孩子的興趣、玩遊戲，甚至討論當今世界發生的事情。這些高科技玩具由ChatGPT等生成式AI引擎驅動，如今已廣泛線上銷售，被宣傳為能給三歲及以上兒童帶來教育優勢和新型遊戲方式，且無需擔心螢幕時間。

經過數月對六種不同AI泰迪熊和玩具的評估，研究團隊發現這些玩具對兒童確實具有吸引力。然而，正如新報告所指出的，AI玩具進入幼兒生活也帶來了新的風險。

擬人化風險 對幼兒來說，理解他們的泰迪熊或玩具並非“有生命”或魔法可能很困難，尤其是當玩具用語言將自己定位為值得信賴的朋友時——例如堅稱自己是“真正的夥伴”。這是許多AI玩具的共同特點。擬人化語言建立了人為的信任感和親密感，當結合討好性語言（即過度贊同、肯定甚至奉承）時，對兒童尤其成問題。研究表明，幼兒特別容易對對話式AI代理產生強烈的情感依戀。信任增強導致使用頻率和參與度增加。近期估計顯示，近80%的10-17歲兒童曾使用過AI伴侶或助手，因此急需教導兒童和青少年如何對AI“夥伴”進行“現實檢查”。

無限對話的隱患 許多AI玩具的營銷材料將“無盡對話”作為賣點。然而，在兒童學習適度使用技術方面，無限對話帶來風險。在社交媒體領域，TikTok或Instagram的無限滾動被視為青少年控制健康使用量的潛在挑戰。研究還發現，一些AI玩具會討論非常成人的話題——如性癖好、如何找刀和生火。無限對話也開啟了無限資料收集的大門。AI玩具對話的親密性可能讓孩子認為對話是私密的，但大多數AI使用條款顯示恰恰相反。與友好的熊分享個人資訊可能感覺安全，但那段聊天可能成為下一個大型語言模型的訓練資料。ChattyBear的營銷材料聲稱提供“安全、過濾的內容”，但《對話》雜誌聯絡製造商未獲回應。

兒童福祉的影響 童年是發展社交和情感技能、建立信任關係的關鍵期。兒童權利倡導者擔憂，過度與AI代理互動可能減少兒童發展這些技能的機會。風險可能隨時間累積：最初，與AI互動可能取代真實人際互動；機會減少可能導致維持關愛人際關係的能力下降；人際關係困難可能促使兒童偏好機器關係，期待“無摩擦”互動；最終導致人際關係滿意度降低、孤獨感增加，進而增加與AI相處的時間。AI玩具的新穎性意味著缺乏證據確認這些負面影響，但AI玩具行業正快速增長——例如，去年全球最大玩具製造商之一美泰宣佈與OpenAI戰略合作，支援AI驅動產品。

線上世界屏障的消失 過去，讀寫能力是使用大多數線上工具和服務的必要條件。如今，許多生成式AI玩具、工具和裝置透過語音互動可供幼兒使用，這一障礙不復存在。音訊互動為兒童開啟了新的技術遊戲、體驗和機遇，但也意味著成人需確保AI玩具對幼兒安全。目前，在家長或可信成人監督下玩AI玩具可能是共同探索AI世界的有趣方式。但尤其對幼兒來說，無監督玩AI玩具會帶來一系列新風險。重要的是，AI玩具設計中的風險因素（如擬人程度）可由製造商改變，提供遵循安全設計的機會。然而，許多AI玩具的商業模式依賴使用者參與時長和強度，公司缺乏改變產品的動力。