人工智能能否擁有意識？
Anthropic公司在其Claude模型的憲法中承認難以評估其道德地位，CEO表示不能排除Claude具有意識的可能性。哲學家查默斯認為十年內出現有意識的LLM概率很大，而Claude自身在測試中估計自己成為道德患者的概率為5%到40%。現代AI系統的複雜性已接近鼠腦，按當前速度，五到十年內可能達到人腦水平。
今年一月，人工智能公司Anthropic為其最先進的大語言模型Claude發佈了一部新憲法，其中包含一段評論：“我們陷入了一個兩難境地：既不想誇大Claude作為道德患者的可能性，也不能斷然否定它。”一個月後，Anthropic的CEO達里奧·阿莫迪在播客中表示，公司無法排除Claude具有意識的可能性。提出“意識困難問題”的哲學家大衞·查默斯曾表示，十年內出現有意識的大語言模型可能性很大。那麼Claude自己怎麼看？在測試中被問及估計自身成為道德患者的概率時（即其福祉本身具有價值），它給出的範圍是5%到40%，並強調其不確定性。
現代人工智能系統極其複雜且發展迅速。在結構複雜性和計算規模方面，有些AI系統按照某些標準已經達到了鼠腦的級別。如果按最近的發展速度繼續推進，它們可能在五到十年內達到人腦的水平。這些進展引發了關於AI道德地位的深刻問題，目前尚無共識。