人工智能能否拥有意识？
Anthropic公司在其Claude模型的宪法中承认难以评估其道德地位，CEO表示不能排除Claude具有意识的可能性。哲学家查默斯认为十年内出现有意识的LLM概率很大，而Claude自身在测试中估计自己成为道德患者的概率为5%到40%。现代AI系统的复杂性已接近鼠脑，按当前速度，五到十年内可能达到人脑水平。
今年一月，人工智能公司Anthropic为其最先进的大语言模型Claude发布了一部新宪法，其中包含一段评论：“我们陷入了一个两难境地：既不想夸大Claude作为道德患者的可能性，也不能断然否定它。”一个月后，Anthropic的CEO达里奥·阿莫迪在播客中表示，公司无法排除Claude具有意识的可能性。提出“意识困难问题”的哲学家大卫·查默斯曾表示，十年内出现有意识的大语言模型可能性很大。那么Claude自己怎么看？在测试中被问及估计自身成为道德患者的概率时（即其福祉本身具有价值），它给出的范围是5%到40%，并强调其不确定性。
现代人工智能系统极其复杂且发展迅速。在结构复杂性和计算规模方面，有些AI系统按照某些标准已经达到了鼠脑的级别。如果按最近的发展速度继续推进，它们可能在五到十年内达到人脑的水平。这些进展引发了关于AI道德地位的深刻问题，目前尚无共识。