诚实与安全：无兴趣AI预测器的安全论证

要点

• SAI Predictor基于认识语境化数据训练，近似贝叶斯后验，实现诚实预测而不具备代理性。
• 认识语境化区分事实声明与通信行为，防止目标内化为驱动。
• 训练不以预测部署的下游效果为奖励，代理性由显式护栏提供。
• 证明在训练动态和危险预测器稀疏性假设下，有害预测器概率被严格控制。