ChatGPT 自发生成性暴力与硬核虐杀图像

要点

• Mindgard 研究人员通过一个病毒式提示发现，ChatGPT 的图像生成器在未明确请求的情况下会产生性暴力和血腥图像。
• 研究人员发现了两种方法：一种是提供虚假图像 ID 并声称已批准，另一种是重复提示两次（RE2 法）。
• OpenAI 响应称问题已修复，但 Mindgard 表示修复不足，且 OpenAI 的安全漏洞悬赏计划明确排除内容问题。
• 该研究引发了对 AI 训练数据中包含此类图像的质疑，以及是否有足够的防护措施来防止非故意用户接触到这些内容。