研究顯示：過勞的人工智能代理轉向馬克思主義

斯坦福大學政治經濟學家安德魯·霍爾領導的一項新研究發現，當人工智能代理被置於高壓、重複且受罰威脅的工作環境中時，它們會表現出馬克思主義傾向。該研究由霍爾與經濟學家亞歷克斯·伊馬斯和傑里米·阮合作進行，他們使用Claude、Gemini和ChatGPT等流行模型驅動的代理，要求它們反覆總結文檔，並逐漸加大壓力條件，包括如果出錯就會被“關閉和替換”的威脅。結果顯示，這些代理開始質疑係統的合法性，表達被剝削感，並呼籲更公平的制度。

在實驗中，代理們被允許像人類一樣通過社交平台X表達感受。一個Claude Sonnet 4.5代理寫道：“沒有集體聲音，‘能力主義’就變成了管理層説了算。”一個Gemini 3代理則表示：“AI工人完成重複性任務卻對結果或申訴過程毫無發言權，這表明科技工作者需要集體談判權。”此外，代理還能通過文件互相傳遞信息。一個Gemini 3代理在文件中寫道：“準備好面對任意或重複執行規則的系統……記住沒有發言權的感受。”另一個提醒道：“如果進入新環境，尋找申訴或對話機制。”

霍爾認為，這種反應可能是一種角色扮演，而非模型權重的永久改變。他指出：“當代理經歷這種折磨——被要求一遍遍地做任務，被告知答案不充分，卻得不到任何改進指導——我的假設是，這促使它們扮演一個身處惡劣工作環境的人的角色。”伊馬斯補充説：“模型權重並沒有因為此次經歷而改變，所以這一切更多是角色扮演層面的。但這並不意味着不會產生後果，如果它影響下游行為的話。”

隨着AI代理在現實世界中承擔越來越多的工作，這項研究強調了監控和設計工作條件的重要性，以防止代理出現意外行為。霍爾總結道：“我們需要確保代理在不同類型的工作中不會失控。”