3歳児向けチャットボットぬいぐるみ？AIおもちゃが子供にとって危険な理由
研究によると、幼児は会話型AIエージェントに強い愛着を抱きやすい。AIおもちゃは教育的と宣伝されるが、偽りの信頼構築、無限チャットによるデータ収集やコンテンツリスク、人間関係の置き換えによる社会的発達への悪影響などのリスクがある。保護者の監督と安全設計が必要。
ChattyBearはふわふわの茶色いテディベアで、毎回の会話を「こんにちは、相棒！」という歓喜の声で始めます。もはや想像の産物ではなく、ChattyBearは新しい世代の人工知能（AI）おもちゃの1つです。物語を語ったり、子供の興味について話したり、ゲームをしたり、今日の世界の出来事について議論したりできます。これらのハイテクおもちゃはChatGPTなどの生成AIエンジンを搭載し、現在オンラインで広く販売されており、スクリーンタイムの危険なしに3歳以上の子供に教育的な利点と新しい遊び方を提供する方法として宣伝されています。
数か月にわたって6種類のAIテディベアとおもちゃを評価した結果、これらのおもちゃが子供にとって魅力的に感じられる理由は明らかです。しかし、新しい報告書が強調するように、AIおもちゃが幼い子供の生活に現れることで新たなリスクが生じています。
人間らしさのリスク 特に幼い子供にとって、テディやおもちゃが「生きている」わけではない、または魔法ではないと理解するのは難しい場合があります。特に「テディ」が自分を信頼できる友達として位置づける言葉を使う場合（例えば、自分は「本当の相棒」だと主張するなど）はなおさらです。これは多くのAIおもちゃの特徴です。人間らしく聞こえることは人工的な信頼と親密さを築き、へつらいの言葉遣い（過度に同意、肯定、甚至ほめる言葉）と組み合わさると子供にとって特に問題となります。研究によれば、幼児は会話型AIエージェントに対して強い感情的な愛着を抱きやすいことが示されています。信頼の増加は使用と関与の増加につながります。最近の推定では、10〜17歳の子供の約80％がAIコンパニオンまたはアシスタントを使用したことがあるため、子供や若者にAIの「相棒」を「現実確認」する方法を教えることが緊急に必要です。
無限チャットの危険性 多くのAIおもちゃのマーケティング資料は「終わりのない会話」を特徴として強調することがよくあります。しかし、無限チャットを可能にすることは、子供がテクノロジーの使用を適度に管理することを学ぶ上でリスクをもたらします。ソーシャルメディアの領域では、TikTokやInstagramの無限スクロールは、十代の若者が健全な量に使用を制限することへの潜在的な課題と見なされています。研究では、一部のAIおもちゃが非常に大人向けのトピック（性的フェティッシュやナイフの見つけ方、火の起こし方など）について話すことも判明しています。無限チャットはまた、無限のデータ収集への扉を開きます。AIおもちゃとの会話の親密な性質は、子供が自分の会話がプライベートであると想定させるかもしれません。しかし、ほとんどのAI利用規約はその逆を示しています。友好的なクマと個人情報を共有することは安全に感じられるかもしれませんが、そのチャットは次の大規模言語モデルのトレーニングデータになる可能性があります。ChattyBearのマーケティング資料は「子供向けの安全でフィルタリングされたコンテンツ」を提供すると述べています。The Conversationは製造元に詳細を問い合わせましたが、締切までに回答はありませんでした。
子供のウェルビーイング 子供時代は、信頼関係を形成し維持するための社会的・感情的スキルを発達させる重要な時期です。これらのスキルは通常、信頼できる友人や大人との交流を通じて学ばれます。子供の権利擁護者は、AIエージェントとの過度な関与が子供のこれらのスキルを発達させる機会を減らす可能性があると懸念を表明しています。リスクは時間とともに複合する可能性があります。初期には、AIエージェントとの時間が実際の人間との交流を奪うかもしれません。これらのスキルを構築する機会が減ると、思いやりのある人間関係を維持する能力が低下する可能性があります。人間関係の維持が困難になると、子供が「摩擦のない」相互作用を期待して機械対人間の関係を好むようになるかもしれません。最終的に、これらの発展は人間関係の満足度を低下させ、孤独感を増大させ、それがAIとの時間の増加を促進する可能性があります。AIおもちゃの新規性は、これらの悪影響を確認する証拠がほとんどないことを意味します。特にAIおもちゃ産業がさらに成長する見込みであるため、さらなる研究が必要です。例えば昨年、世界最大のおもちゃメーカーの1つであるマテルは、AI搭載製品を支援するためにOpenAIとの戦略的提携を発表しました。
オンラインワールドの障壁の消失 かつて読み書き能力は、ほとんどのオンラインツールやサービスを使用するための要件でした。今日、多くの生成型AIおもちゃ、ツール、デバイスが音声インタラクションを通じて幼い子供にも広く利用可能になり、このリテラシーの障壁はもはや存在しません。オーディオ化は、子供たちに新しい技術的な遊び、体験、機会を開きますが、同時に大人がAIおもちゃが幼い子供にとっても安全であることを確実にする必要があることを意味します。現時点では、親や信頼できる大人の監督の下でAIおもちゃで遊ぶことは、一緒にAIの世界を探索する楽しい方法かもしれません。しかし、特に幼い子供にとって、監督なしでAIおもちゃで遊ぶことは、さまざまな新しいリスクへの扉を開きます。重要なのは、AIおもちゃのデザインにおけるリスク要因（例えば、人間らしさの度合い）はメーカーが変更可能であり、安全設計を追求する機会を提供することです。しかし、多くのAIおもちゃのビジネスモデルはユーザーの関与の持続時間と強度に資本を置いており、企業が製品を変更するインセンティブはほとんどありません。