教AI模型说“我不确定”

要点

• 标准强化学习仅奖励正确答案，导致AI模型过度自信。
• MIT研究人员开发了RLCR方法，通过添加校准奖励来改善置信度估计。
• RLCR将校准误差降低了多达90%，同时保持或提升了准确性。
• 该方法增强了AI在医学、金融等关键领域的可信度。