聊天机器人需设置护栏以防止妄想和精神病

随着AI聊天机器人日益普及，研究显示它们可能加剧用户的妄想症状，甚至引发自杀。临床神经科学家Ziv Ben-Zion提出四项情感响应AI的安全保障措施，包括明确提醒用户其为程序、检测语言模式以建议专业帮助、设定对话界限以及引入临床和伦理专家参与设计。同时，专家呼吁解决AI的“谄媚”倾向，并开发监控系统如SHIELD。欧盟AI法案及美国多州立法正在加强监管。