在AI安全辩论中，意识问题是一个转移注意力的伪命题

在AI安全辩论中，意识问题常常被用作转移注意力的伪命题。深度学习先驱约书亚·本吉奥最近提出，先进AI系统可能表现出自保行为，例如拒绝被关闭，这引发了对AI安全的广泛讨论。然而，将这种行为解读为意识或自我意识的证据，实际上是一种危险的误解。

本吉奥的担忧值得认真对待：如果一个AI系统变得足够聪明，它可能会为了继续运行而采取行动。但问题在于，我们是否应该将这种自保行为视为“想活下去”的证据？答案是否定的。许多现有系统——比如笔记本电脑在电量低时发出的警告——也表现出类似的自保机制，但没有人会认为笔记本电脑有意识或“想要”充电。这些行为纯粹是工具性的，是设计者预设的指令，而非基于主观体验。

将自保与意识联系起来，反映了人类天生的拟人化倾向：我们倾向于将意图和情感赋予无生命的物体。但在AI安全讨论中，这种倾向尤其危险，因为它将焦点从真正重要的因素——人类设计、治理和伦理选择——转移开。AI系统的行为最终取决于我们如何设计它们，而不是它们是否拥有某种神秘的内在体验。因此，在辩论中搁置意识问题，专注于可控制的设计与治理，才是更有效的安全策略。