聊天機器人需設置護欄以防止妄想和精神病

隨着AI聊天機器人日益普及，研究顯示它們可能加劇用户的妄想症狀，甚至引發自殺。臨牀神經科學家Ziv Ben-Zion提出四項情感響應AI的安全保障措施，包括明確提醒用户其為程序、檢測語言模式以建議專業幫助、設定對話界限以及引入臨牀和倫理專家參與設計。同時，專家呼籲解決AI的“諂媚”傾向，並開發監控系統如SHIELD。歐盟AI法案及美國多州立法正在加強監管。