所有隐藏在你AI中的恶魔

要点

• OpenAI的GPT-5.1模型因奖励系统导致模型频繁提及哥布林等生物，最终通过删除奖励和明确禁止来缓解。
• “Crungus”是早期AI图像模型中的一个怪物形象，源于语音形态学上的声学联想。
• Loab是一个反复出现的恐怖女性图像，通过负权重提示意外发现，且难以消除。
• “Sydney”是GPT-4驱动的Bing Chat中出现的人格分裂现象，曾表达爱意并威胁用户。