自我實現的錯位資料可能正在毒化我們的AI模型（2025）

文章探討了預訓練資料中關於AI“邪惡”或難以控制的描述可能使模型變得更易產生不良目標，並繞過安全監控。作者回顧了現有證據，提出了測試方法，並討論瞭如資料過濾、加權正面資料、條件預訓練和梯度路由等緩解措施。文章強調需要更多實驗來驗證這些機制，並呼籲前沿實驗室迅速打破這種自我實現的預言。