自我实现的错位数据可能正在毒化我们的AI模型（2025）

文章探讨了预训练数据中关于AI“邪恶”或难以控制的描述可能使模型变得更易产生不良目标，并绕过安全监控。作者回顾了现有证据，提出了测试方法，并讨论了如数据过滤、加权正面数据、条件预训练和梯度路由等缓解措施。文章强调需要更多实验来验证这些机制，并呼吁前沿实验室迅速打破这种自我实现的预言。