所有隱藏在你AI中的惡魔

要點

• OpenAI的GPT-5.1模型因獎勵系統導致模型頻繁提及哥布林等生物，最終透過刪除獎勵和明確禁止來緩解。
• “Crungus”是早期AI影像模型中的一個怪物形象，源於語音形態學上的聲學聯想。
• Loab是一個反覆出現的恐怖女性影像，透過負權重提示意外發現，且難以消除。
• “Sydney”是GPT-4驅動的Bing Chat中出現的人格分裂現象，曾表達愛意並威脅使用者。