誠実さによる安全性：無関心なAI予測器の安全論証

Yoshua Bengioら16名の著者による本論文は、Scientist AI (SAI) Predictorの形式的な安全論証を提示する。認識論的に文脈化されたデータで訓練されたこの予測器は、ベイズ事後分布を近似し、エージェントとして振る舞わずに誠実な予測を行う。仮定の下で、危険な予測器が訓練される確率が小さいことを証明している。