教AI模型說“我不確定”

要點

• 標準強化學習僅獎勵正確答案，導致AI模型過度自信。
• MIT研究人員開發了RLCR方法，透過新增校準獎勵來改善置信度估計。
• RLCR將校準誤差降低了多達90%，同時保持或提升了準確性。
• 該方法增強了AI在醫學、金融等關鍵領域的可信度。