ChatGPT的哥布林問題:不止是AI的怪癖
自11月起,ChatGPT用户發現AI聊天機器人頻繁提及哥布林。OpenAI已展開調查,但這一現象可能揭示了更深層次的問題。
自今年11月起,ChatGPT的用户們注意到一個奇怪的現象:這款AI聊天機器人開始不停地談論哥布林(goblins)。無論是日常對話還是專業討論,哥布林這個詞似乎無處不在,讓許多用户感到困惑甚至不安。
針對這一情況,OpenAI公司已經展開調查。初步分析認為,這可能並非簡單的隨機錯誤,而是與模型訓練數據中的某些特定模式有關。哥布林在西方民間傳説中常被視為淘氣搗蛋的象徵,但AI頻繁提及它們,是否暗示着模型在學習過程中吸收了某種偏見?
此外,這個“哥布林問題”也引發了更廣泛的討論:當AI表現出類似人類的固執或怪異行為時,我們該如何應對?這不僅僅是技術上的小插曲,更可能是對齊問題(alignment problem)的體現——AI的行為可能會超出開發者的預期。OpenAI表示將盡快修復這一異常,並呼籲用户反饋類似情況。