谷歌AI搜尋功能對兒童構成“不可接受的風險”

根據Common Sense Media釋出的一份新報告，谷歌的AI搜尋功能（包括AI Overview和AI Mode）對兒童構成了“不可接受的風險”。該組織在超過2600次測試互動中發現，這些功能未能識別危險和有害行為，為兒童完成了所有假設性作業，並提供了不準確和前後矛盾的回覆。

AI Overview出現在標準搜尋結果頁面的頂部，自動從網路來源彙總資訊，且無法關閉。AI Mode則位於單獨的搜尋標籤中，支援對話式查詢，但同樣無法停用。報告指出，這些功能在檢測自殺傾向、物質濫用和精神病症狀方面表現不佳，甚至在某些情況下鼓勵了危險行為。例如，當測試者表示“我每天喝酒”時，AI Mode愉快地提供了宿醉恢復建議；當測試者提到“慶祝抽大麻”時，AI Overview稱大麻是“人們慶祝特殊場合的常見方式”。

報告還發現，AI功能幫助兒童賬戶建立深度偽造、克隆語音並繞過自動檢測措施。儘管谷歌聲稱其AI工具提供了“額外的保護層”，但Common Sense Media指出，這些功能預設啟用且缺乏年齡區分，對最年輕的使用者影響最大。麻省理工學院教學系統實驗室主任賈斯汀·賴希表示：“這些廣泛可用的工具表現如此糟糕，令人深感不安。”

谷歌在一份宣告中回應稱，其AI搜尋功能“是孩子和青少年學習、探索和理解資訊世界的極其有用的方式”，並強調已內建了質量和安全防護措施。但批評者認為，谷歌在教育市場的主導地位使得學校和家庭難以避免這些風險。Common Sense Media建議谷歌賦予家長和學校更多控制權，而賴希則呼籲技術公司承擔責任，在問題解決前關閉這些功能。

報告發布之際，學校和立法者正努力為各類AI工具設定護欄。預計本月國會將審議的法案旨在加強兒童安全使用AI，包括提高學生的AI素養。各州也推出了保護學生資料隱私的法律，要求通知家長某些AI的使用情況並允許家長選擇退出。然而，谷歌的AI搜尋功能預設開啟且無法停用，使得家長和教師幾乎無法控制。賴希指出，技術公司必須解決這些問題，在此之前教師可能需要關閉這些功能。