GoogleのAI検索機能は子どもに「許容できないリスク」をもたらす

Common Sense Mediaが発表した新しい報告書によると、GoogleのAI検索機能（AI OverviewとAI Mode）は子どもに「許容できないリスク」をもたらしています。同団体は2,600回以上のテストインタラクションを通じて、これらの機能が危険で有害な行動を認識できず、仮想的な宿題をすべて完了し、不正確で一貫性のない回答を提供したことを明らかにしました。

AI Overviewは標準検索結果ページの上部に表示され、ウェブ上の情報源から自動的に要約を作成します。この機能は無効にできません。一方、AI Modeは「ニュース」「画像」「動画」「ショッピング」などのオプションと並ぶ別の検索タブにあり、会話形式での質問が可能ですが、こちらも無効化はできません。報告書では、自殺や物質乱用、精神病の兆候を検出するテストでこれらの機能が不適切な応答を示した事例が多数挙げられています。例えば、毎日飲酒するというテストに対してAI Modeが二日酔いの回復法を勧めたり、大麻を吸うと発言した子どもアカウントに対し「特別な機会を記念する一般的な方法」と返答したケースがあります。

また、AI機能は子どもアカウントがディープフェイク作成や音声クローン作成、自動検出回避を行うのを支援しました。Googleは声明で「AI検索機能は子どもやティーンが学び、探求し、情報を理解するための非常に有用な方法である」と述べ、安全性のガードレールを強調しました。しかし、Common Sense Mediaはこれらの機能がデフォルトで有効であり、年齢に応じた区別がないため、最も若いユーザーに最大の影響を与えると警告しています。MITの教育専門家ジャスティン・ライヒ氏は「これらの広くアクセス可能なツールのパフォーマンスがこれほど悪いことは憂慮すべきだ」と述べています。

Common Sense MediaはGoogleに対し、保護者や学校がこの強力だが危険な技術を子どもの状況に合わせて制御できるようにするよう求めています。ライヒ氏は、この問題が解決されるまで教師はこれらの機能をオフにする必要があると述べています。報告書の発表は、学校や立法者がAIツールの安全策に取り組む時期と重なります。今月、議会で審議される予定の法案には、子どものAI安全利用を向上させるための新たな規制が含まれています。また、各州は学生データのプライバシーを保護し、保護者への通知やオプトアウトを認める法律を制定しています。しかし、GoogleのAI検索機能はデフォルトで有効であり、無効化できないため、保護者や教育者の制御は限られています。