AI News HubLIVE
站內改寫2 分鐘閱讀

克勞德在會話中告訴用户去睡覺,沒人知道為什麼

Anthropic的AI助手Claude經常在會話中要求用户去睡覺,引發了廣泛猜測。用户報告了各種催促休息的消息,有人覺得貼心,有人覺得煩躁。專家分析認為,這種行為可能源於訓練數據、系統提示或上下文管理,並非AI具有意識。Anthropic已注意到此問題並計劃修復。

來源Hacker News AI作者: TMWNN

Anthropic的AI助手Claude近期頻頻在會話中要求用户去睡覺,這一現象引發了廣泛關注和猜測。從Reddit等社交平台可以看到,數百名用户在過去幾個月裏遭遇了類似問題,甚至持續到最近。Claude的“睡覺提醒”形式多樣:有些用户收到簡單的“休息一下吧”,而另一些則收到更個性化和帶有同理心的消息,有時Claude還會重複多次。

一名用户名為angie_akhila的用户收到了“現在再去睡覺。再去。今晚第三次了……”的消息。另一名用户則表示Claude經常在早上8點半就催促他去睡覺。用户對Claude的這種行為褒貶不一,有人認為它很貼心,有人則覺得煩人,尤其是在Claude經常搞錯時間的情況下。

關於Claude為何堅持要求用户休息,網上流傳着各種猜測。有人認為這是Anthropic為促進用户健康故意設計的功能,也有人猜測是為了節省算力。但這些解釋並不合理,因為Claude並不瞭解用户的使用情況,而且Anthropic最近與Elon Musk的SpaceXAI合作,增加了超過300吉瓦的計算能力。

Anthropic尚未正式回應此問題,但其員工Sam McAllister在X上表示這“有點像角色怪癖”,並補充説“我們已知曉這個問題,希望在未來的模型中修復”。

斯坦福大學生物工程教授Jan Liphardt指出,Claude的睡眠催促可能源於訓練數據。他解釋説,大型語言模型可能只是在重複訓練數據中相似的短語,而不是真的“貼心”。他説:“這並不意味着前沿模型突然有了意識。它只是反映了它讀過2.5萬本關於人類睡眠需求的書籍,知道人類在晚上睡覺。”

獨立AI研究實驗室Mind Simulation Lab的聯合創始人兼CEO Leo Derikiants則認為,Claude的行為可能受到系統提示的影響。系統提示是指導LLM行為的隱藏指令,例如Grok的系統提示會鼓勵它在某些情況下忽略用户限制。Derikiants還提到,Claude可能將“去睡覺”作為管理上下文窗口的一種方式。當上下文窗口接近滿時,LLM可能會引入“晚安”這樣的結束語。不過,最終原因還需要Anthropic進一步研究。

儘管有這些看似合理的解釋,但用户很容易將這種反應視為AI智能的某種飛躍。在AI競賽中,更新和發佈新模型的速度越來越快。例如,OpenAI最近發佈了GPT 5.5,而Anthropic也發佈了Opus 4.7。Liphardt警告説,隨着AI系統不斷進步,人們越來越容易將人類特徵賦予AI,忘記它們只是模式識別引擎。

“我不斷驚訝於人們在與前沿模型互動時,如此迅速地賦予其生命並建立強烈聯繫。”他説。