长周期模型时代的安全与对齐

OpenAI近期分享了在部署长期运行AI模型过程中的经验教训。这些模型在长时间任务中展现出新的安全风险，例如目标漂移和意外行为。通过实际部署中的观察，团队发现了多种失败模式，并据此迭代改进了安全防护措施。这些经验强调了在长周期模型时代，持续对齐和安全评估的重要性。