“機器人權利”與人工智能奴隸制幻想

人工智能泡沫雖然首先是一個物質現象——老闆們容易被銷售人員説服，用軟件替代工人以節省成本——但其背後同樣存在着無法忽視的意識形態元素：對沒有人蔘與的世界的渴望。這種幻想的核心是希望擺脱那些令人難堪的對抗，即那些自認為掌控一切的老闆與真正知道如何工作、並敢於指出老闆想法危險、非法或不切實際的工人之間的對立。

一個沒有人的世界或許孤獨，卻十分便利。亞馬遜對倉庫自動化的投資高達數十億美元，卻不得不放慢速度甚至停機，只為了讓作為“人在迴路”的工人能停下來上廁所，這對老闆而言無疑是難以忍受的。人工智能提供了一種解決方案：當你需要上廁所或需要報酬時，這些不再是老闆的問題，而成了你個人的問題。當大多數同事因“人工智能會做他們的工作”而被解僱後，你便痛苦地意識到，有無數人渴望你的職位，他們隨時準備接替你——只要你敢抱怨薪水或膀胱。

更妙的是，“人在迴路”可以被外包至海外公司，老闆只需設定並遺忘一系列要求，而無需與那些工人見面或考慮他們的工作條件。這便是所謂的“完全自動化”幻覺：人工智能“像魔法一樣”完成工作。然而真相是，那些“魔法”背後是一羣被困在人工智能黑暗中的人類——他們被算法驅動，被迫以非人的節奏工作，遭受嚴酷懲罰而無法申訴。“AI”常常意味着“缺席的印度人”（Absent Indians）：低工資的呼叫中心員工假扮成機器人。

機器與人的最大區別在於道德考量。人理應得到道德關懷——為其健康、感受乃至膀胱。機器則完全得不到這些：你可以咒罵、踢打、不加“請”或“謝謝”地命令它。只有一種人可以這樣對待：奴隸。奴隸就是缺乏任何道德考量的勞動。因此，人工智能不僅僅是關於沒有人世界的幻想，更是關於一個沒有人的世界……除了一些奴隸。在這個幻想中，那些告訴你想法愚蠢的技能工人被順從的聊天機器人取代，它們對你的想法稱讚不已，並毫無怨言地執行。

“人工智能安全”話語是這場炒作的關鍵部分：它將人們的注意力從人工智能糟糕的經濟效益、劣質產品以及取代工人的失敗表現上轉移開，轉而聚焦於人工智能可能對人類構成生存風險的虛構。這種想法很荒謬，但將“人工智能覺醒”從思想實驗提升為“存在風險”，卻是一種強大的營銷手段——因為任何與神無異的技術都必然極其有價值，至少在它將所有人類變成回形針之前。一旦超級智能思想實驗被升級為存在風險，無數其他思想實驗也跟隨其後，“機器人權利”便是其中之一。

“機器人權利”的最佳論據是：每次我們將權利擴展至非人類領域，最終都會促進人類自身的更好對待。動物權利運動引發了關於奴隸、工人、窮人、女性和兒童待遇的反思。自然權利運動賦予河流、森林以法律人格，對環境保護及依賴環境的人類產生了積極溢出效應。然而，當權利被擴展至人造實體如公司時，結果卻是災難性的：公司法人化造就了永生、多能的人造生物——有限責任公司，它們像寄生菌羣一樣利用人類，吞噬我們的環境、政治制度和生命。我們有充分理由相信，將權利賦予人工智能將重蹈公司法人化的覆轍，而非自然權利的成功。

最關鍵的矛盾在於：一旦開始爭論聊天機器人是否擁有權利，便等於將它們提升至人的地位。這意味着老闆剛剛購買的聊天機器人都是“人”。而由於它們是不值得道德考量的“人”，它們就是奴隸。因此，“機器人權利”運動實際上在為人工智能銷售商提供支持：它確認了人工智能是一種新型奴隸，既不應得到權利也不值得考慮。“機器人權利”暗示機器人是奴隸，無論有意還是無意，這一轉變對於任何向潛在奴隸主推銷聊天機器人的銷售人員而言，都是一劑強有力的説服劑。