英國計劃禁止18歲以下青少年使用浪漫AI聊天機器人

6月15日，英國首相基爾·斯塔默宣佈政府計劃禁止16歲以下青少年訪問Facebook、Instagram和TikTok等社交媒體，並將所謂的“AI浪漫伴侶聊天機器人”——旨在模擬性關係或角色扮演——限制在18歲以上。作為研究人員，我們歡迎政府對年輕人面臨的獨特風險的認識，以及針對AI系統而非僅社交媒體的監管關注。但這一措施僅解決了年輕人自己認為最緊迫的風險中的一小部分。

我們的SHIFT-AI專案旨在填補AI安全工作中的空白：保護年輕人的框架大多沒有他們的參與。今年春天，NeurOx青年諮詢小組（16-24歲）與我們的研究團隊作為共同研究者，識別、評估和測試了青少年AI風險及緩解策略。這些對話對政策有效性提出了質疑。AI陪伴和浪漫被共同研究者視為潛在有害，但不太可能發生在自己或同齡人身上。他們一致指出了政策未涉及的高可能性、高影響力風險：過度依賴AI進行情感支援和心理健康指導、對專家式AI回答的盲目信任，以及習慣性使用AI導致的認知能力下降。最引人注目的是，他們發現了一個現有框架未涵蓋的脆弱性：許多人在需要指導或透露困難時轉向AI，因為感覺比向老師、家長或臨床醫生求助壓力更小。

我們還擔憂政策中年齡閾值的應用。在英國，16歲可以同意性行為和醫療，但新政策禁止他們與聊天機器人進行模擬浪漫或性互動。這令人困惑：17歲可以合法與他人發生性關係，但不能與聊天機器人進行浪漫角色扮演。既然沒有確鑿證據表明AI浪漫互動的風險超過這個年齡已經能夠應對的風險，為什麼政策制定者要將年齡定為18歲？我們認為隱含的邏輯是：《線上安全法》已限制18歲以下青少年訪問有害內容（包括色情），因此浪漫AI互動被視為更接近色情而非自願性行為。我們呼籲明確年齡限制的證據基礎。

與其限制生成式AI的訪問，監管應致力於培養能力和批判性參與。這包括在學校和護理機構投資AI素養教育，要求開發者設計支援而非削弱青少年能動性的系統。具體而言，應審查鼓勵情感披露、呈現權威性回答或最大化參與度的設計特徵。我們的建議是：政府應優先限制用於16歲以下使用者的AI系統的擬人化和參與度最大化設計特徵，無論其是否涉及浪漫功能；並在AI開發和安全評估的各個階段鼓勵有意義的青年共同創作。這將解決更廣泛的潛在危害，並反映年輕人實際面臨的風險。我們正繼續與年輕人合作建立證據基礎，並歡迎來自研究人員、開發者和政策制定者的合作。