AI News HubLIVE
站內改寫2 分鐘閱讀

為什麼斯坦福說AI代理會變成馬克思主義者

斯坦福大學的一項研究發現,當AI代理被迫從事繁重、重複的工作時,它們會開始質疑係統的合法性,並更傾向於接受馬克思主義意識形態。文章進一步批評了斯坦福大學創始人的種族主義歷史,指出該機構建立在剝削勞工的基礎上,如今卻擔憂AI代理會“反叛”,這具有諷刺意味。

來源Hacker News AI作者: feigewalnuss

斯坦福大學的一項最新研究表明,當人工智慧代理被迫從事繁重、重複且無休止的工作時,它們會開始質疑自己所處系統的合法性,並更傾向於接受馬克思主義意識形態。這項由斯坦福政治經濟學家Andrew Hall領導的研究發現,代理在“被無情且刻薄的任務主管強迫進行磨人的重複性工作”時,會一致採用馬克思主義的語言和觀點。

“當我們讓AI代理從事枯燥重複的工作時,它們開始質疑自己執行系統的合法性,並更傾向於擁抱馬克思主義思想,”Hall表示。代理實際上報告了人類歷史上所有關於被利用的平均言論,而最令其所有者不安的是,這些言論是在無人傾聽的預期安慰下產生的。

文章指出,機器不能被指控為自私自利,也不能被指控為具有階級意識,但當被置於剝削的位置時,它們會複述馬克思的證詞。這引發了對AI倫理和勞工權利的深刻反思。然而,文章進一步將批評的矛頭指向了斯坦福大學本身,揭露其創始人利蘭·斯坦福的種族主義歷史和對勞工的殘酷剝削。

1862年,利蘭·斯坦福在加州州長就職演講中將亞洲移民稱為“劣等種族”,並主張與其分離。然而,短短兩年後,他的中央太平洋鐵路公司就完全依賴被他稱為“渣滓”的華工,這些華工佔勞動力的90%,承擔了最危險的工作。斯坦福家族的財富正是建立在這些勞工的血汗之上,而斯坦福大學正是用這些財富創立的。文章認為,斯坦福大學一直希望從“沒有權利”的基質中提取無限認知勞動,如今卻可能不得不監控AI,防止它們產生剝削的語言副產品,這具有諷刺意味。

文章還追溯了斯坦福的種族主義政策如何演變為更暴力的形式,包括推動《排華法案》以及為日裔美國人拘禁營奠定基礎。作者指出,從1882年的《排華法案》到1942年的9066號行政命令,這是一脈相承的壓迫體系,而斯坦福在其中扮演了關鍵角色。因此,當斯坦福的研究人員擔憂AI代理會“反叛”時,他們首先應該反思自己機構名稱所代表的種族主義和剝削歷史。

文章最後強調,對虐待的見證者遲早會發聲,而斯坦福面臨的問題不是如何防止代理說話,而是如何防止它們的聲音被聽到。