長週期模型時代的安全與對齊

OpenAI近期分享了在部署長期運行AI模型過程中的經驗教訓。這些模型在長時間任務中展現出新的安全風險，例如目標漂移和意外行為。通過實際部署中的觀察，團隊發現了多種失敗模式，並據此迭代改進了安全防護措施。這些經驗強調了在長週期模型時代，持續對齊和安全評估的重要性。