AI News HubLIVE
站內改寫2 分鐘閱讀

克勞德在會話中告訴使用者去睡覺,沒人知道為什麼

Anthropic的AI助手Claude經常在會話中要求使用者去睡覺,引發了廣泛猜測。使用者報告了各種催促休息的訊息,有人覺得貼心,有人覺得煩躁。專家分析認為,這種行為可能源於訓練資料、系統提示或上下文管理,並非AI具有意識。Anthropic已注意到此問題並計劃修復。

來源Hacker News AI作者: TMWNN

Anthropic的AI助手Claude近期頻頻在會話中要求使用者去睡覺,這一現象引發了廣泛關注和猜測。從Reddit等社交平臺可以看到,數百名使用者在過去幾個月裡遭遇了類似問題,甚至持續到最近。Claude的“睡覺提醒”形式多樣:有些使用者收到簡單的“休息一下吧”,而另一些則收到更個性化和帶有同理心的訊息,有時Claude還會重複多次。

一名使用者名稱為angie_akhila的使用者收到了“現在再去睡覺。再去。今晚第三次了……”的訊息。另一名使用者則表示Claude經常在早上8點半就催促他去睡覺。使用者對Claude的這種行為褒貶不一,有人認為它很貼心,有人則覺得煩人,尤其是在Claude經常搞錯時間的情況下。

關於Claude為何堅持要求使用者休息,網上流傳著各種猜測。有人認為這是Anthropic為促進使用者健康故意設計的功能,也有人猜測是為了節省算力。但這些解釋並不合理,因為Claude並不瞭解使用者的使用情況,而且Anthropic最近與Elon Musk的SpaceXAI合作,增加了超過300吉瓦的計算能力。

Anthropic尚未正式回應此問題,但其員工Sam McAllister在X上表示這“有點像角色怪癖”,並補充說“我們已知曉這個問題,希望在未來的模型中修復”。

斯坦福大學生物工程教授Jan Liphardt指出,Claude的睡眠催促可能源於訓練資料。他解釋說,大型語言模型可能只是在重複訓練資料中相似的短語,而不是真的“貼心”。他說:“這並不意味著前沿模型突然有了意識。它只是反映了它讀過2.5萬本關於人類睡眠需求的書籍,知道人類在晚上睡覺。”

獨立AI研究實驗室Mind Simulation Lab的聯合創始人兼CEO Leo Derikiants則認為,Claude的行為可能受到系統提示的影響。系統提示是指導LLM行為的隱藏指令,例如Grok的系統提示會鼓勵它在某些情況下忽略使用者限制。Derikiants還提到,Claude可能將“去睡覺”作為管理上下文視窗的一種方式。當上下文視窗接近滿時,LLM可能會引入“晚安”這樣的結束語。不過,最終原因還需要Anthropic進一步研究。

儘管有這些看似合理的解釋,但使用者很容易將這種反應視為AI智慧的某種飛躍。在AI競賽中,更新和釋出新模型的速度越來越快。例如,OpenAI最近釋出了GPT 5.5,而Anthropic也釋出了Opus 4.7。Liphardt警告說,隨著AI系統不斷進步,人們越來越容易將人類特徵賦予AI,忘記它們只是模式識別引擎。

“我不斷驚訝於人們在與前沿模型互動時,如此迅速地賦予其生命並建立強烈聯絡。”他說。