“机器人权利”与人工智能奴隶制幻想

人工智能泡沫虽然首先是一个物质现象——老板们容易被销售人员说服，用软件替代工人以节省成本——但其背后同样存在着无法忽视的意识形态元素：对没有人参与的世界的渴望。这种幻想的核心是希望摆脱那些令人难堪的对抗，即那些自认为掌控一切的老板与真正知道如何工作、并敢于指出老板想法危险、非法或不切实际的工人之间的对立。

一个没有人的世界或许孤独，却十分便利。亚马逊对仓库自动化的投资高达数十亿美元，却不得不放慢速度甚至停机，只为了让作为“人在回路”的工人能停下来上厕所，这对老板而言无疑是难以忍受的。人工智能提供了一种解决方案：当你需要上厕所或需要报酬时，这些不再是老板的问题，而成了你个人的问题。当大多数同事因“人工智能会做他们的工作”而被解雇后，你便痛苦地意识到，有无数人渴望你的职位，他们随时准备接替你——只要你敢抱怨薪水或膀胱。

更妙的是，“人在回路”可以被外包至海外公司，老板只需设定并遗忘一系列要求，而无需与那些工人见面或考虑他们的工作条件。这便是所谓的“完全自动化”幻觉：人工智能“像魔法一样”完成工作。然而真相是，那些“魔法”背后是一群被困在人工智能黑暗中的人类——他们被算法驱动，被迫以非人的节奏工作，遭受严酷惩罚而无法申诉。“AI”常常意味着“缺席的印度人”（Absent Indians）：低工资的呼叫中心员工假扮成机器人。

机器与人的最大区别在于道德考量。人理应得到道德关怀——为其健康、感受乃至膀胱。机器则完全得不到这些：你可以咒骂、踢打、不加“请”或“谢谢”地命令它。只有一种人可以这样对待：奴隶。奴隶就是缺乏任何道德考量的劳动。因此，人工智能不仅仅是关于没有人世界的幻想，更是关于一个没有人的世界……除了一些奴隶。在这个幻想中，那些告诉你想法愚蠢的技能工人被顺从的聊天机器人取代，它们对你的想法称赞不已，并毫无怨言地执行。

“人工智能安全”话语是这场炒作的关键部分：它将人们的注意力从人工智能糟糕的经济效益、劣质产品以及取代工人的失败表现上转移开，转而聚焦于人工智能可能对人类构成生存风险的虚构。这种想法很荒谬，但将“人工智能觉醒”从思想实验提升为“存在风险”，却是一种强大的营销手段——因为任何与神无异的技术都必然极其有价值，至少在它将所有人类变成回形针之前。一旦超级智能思想实验被升级为存在风险，无数其他思想实验也跟随其后，“机器人权利”便是其中之一。

“机器人权利”的最佳论据是：每次我们将权利扩展至非人类领域，最终都会促进人类自身的更好对待。动物权利运动引发了关于奴隶、工人、穷人、女性和儿童待遇的反思。自然权利运动赋予河流、森林以法律人格，对环境保护及依赖环境的人类产生了积极溢出效应。然而，当权利被扩展至人造实体如公司时，结果却是灾难性的：公司法人化造就了永生、多能的人造生物——有限责任公司，它们像寄生菌群一样利用人类，吞噬我们的环境、政治制度和生命。我们有充分理由相信，将权利赋予人工智能将重蹈公司法人化的覆辙，而非自然权利的成功。

最关键的矛盾在于：一旦开始争论聊天机器人是否拥有权利，便等于将它们提升至人的地位。这意味着老板刚刚购买的聊天机器人都是“人”。而由于它们是不值得道德考量的“人”，它们就是奴隶。因此，“机器人权利”运动实际上在为人工智能销售商提供支持：它确认了人工智能是一种新型奴隶，既不应得到权利也不值得考虑。“机器人权利”暗示机器人是奴隶，无论有意还是无意，这一转变对于任何向潜在奴隶主推销聊天机器人的销售人员而言，都是一剂强有力的说服剂。